CC BY
42СОЦИОЛОГИЯ ИНТЕРНЕТА
Б01: 10.19181/юфиг.2021.27.4.8647
В.В. ВАСИЛЬКОВА1, Н.И. ЛЕГОСТАЕВА1
1 Санкт-Петербургский государственный университет.
191124, Санкт-Петербург, ул. Смольного, д. 1/3.
БОТЫ НА ПУБЛИЧНЫХ АРЕНАХ СОЦИАЛЬНЫХ СЕТЕЙ
Аннотация. В изучении социальных ботов одним из наиболее актуальных трендов является переход от технологически-центрированного их понимания как угрозы информационной и компьютерной безопасности к более широкому — социально-центрированному пониманию ботов как нового инструмента информационного влияния различных социальных субъектов в социальных онлайн-сетях, что представляет особый интерес для современной социологии. В качестве одного из таких субъектов авторы рассматривают группу гражданских активистов, использующих бот-технологию для конструирования и решения проблемы обманутых дольщиков. Новизна статьи заключается в интерпретации деятельности данной группы в контексте концепции публичных арен. Рассматриваемый ботнет «Обманутые дольщики "ЛенСпецСтроя"» был выявлен по комплексной авторской методике, объединяющей метод частотного анализа размещаемых сообщений, профайлинг бот-аккаунтов, включающий статичный и поведенческий анализ данных профиля пользователя, статистический анализ текстов, анализ структурной организации бот-сети, контента его публикаций, а также анализ всплесков сетевой публикационной активности. В результате анализа всплесков публикационной активности и контента публикаций ботнета было показано, как при помощи бот-технологии были реализованы эффективные приемы конструирования и поддержания социальной проблемы обманутых дольщиков: расширение пропускной способности публичной арены, реализация (создание) драматургической новизны и эмоциональной насыщенности дискурса проблемы, учет организационной специфики публичной арены, распространение интереса к проблеме на другие (смежные и не менее значимые) публичные арены (СМИ, законодательную и исполнительную власть, политические партии).
Ключевые слова: социальные боты; ботнеты; публичные арены; социальная проблема; гражданский активизм; обманутые дольщики.
Для цитирования: Василькова В.В., Легостаева Н.И. Боты на публичных
аренах социальных сетей // Социологический журнал. 2021. Том 27. № 4.
С. 99-117. Б01: 10.19181Аофиг.2021.27.4.8647
Постановка проблемы
Социальные боты — один из новейших феноменов цифровой эпохи, который привлек внимание специалистов различных областей знания — компьютерных наук, медиаисследований, политологии, социологии, лингвистики и др.
Под социальными ботами понимаются автоматизированные программные комплексы, которые автоматически создают контент в социальных сетях и взаимодействуют с другими пользователями, продвигая данный контент, в том числе имитируя поведение реальных пользователей. К ним относят разные по степени автоматизации программы (чат-боты, спам-боты, боты-сканеры, киборги, 8оекрирре18, тролли и т. д.). Под ботнетом мы понимаем автоматический или полуавтоматический (с использованием оператора/ов) публикационный комплекс, который включает социальных ботов, места размещения текстов, тексты, программное обеспечение, оператора/ов [3]. Более сложная структура ботнета, которая предполагает привлечение реальных пользователей, применяющих механизмы автоматизации и заинтересованных в решении социально значимых проблем по личным мотивам, позволяет ботнету реализовать более широкий спектр функций [2].
С развитием бот-технологий менялись как акценты их изучения, так и (в соответствии с этим) дисциплинарная фокусировка. На первом этапе исследования данного феномена социальные боты рассматривались прежде всего как угроза информационной и компьютерной безопасности в связи с их манипулятивным воздействием, акцентировалось внимание на разработке методик по их обнаружению и борьбе с ними, в первую очередь в политической коммуникации [1; 7; 12; 14; 19; 25]. Данное понимание сложилось в рамках компьютерных наук и имело «технологически-центрированный характер».
Однако в последние годы (прежде всего с развитием бот-технологий, их доступностью и рутинизацией) стал очевиден другой подход, который был инициирован социологами и позволяет более широко и диверсифицированно взглянуть на структурные, функциональные особенности социальных ботов, а главное — на цели их использования различными социальными субъектами, не всегда связанными со злонамеренной манипуляцией [3; 17]. Данный подход представляет безусловный интерес для социологии, поскольку позволяет понять и исследовать социальные боты как новый инструмент информационного влияния различных социальных субъектов в цифровую эпоху. Спектр исследовательских проблем в этом плане достаточно широк —
от манипулятивного использования социальных ботов в компьютерной пропаганде [4; 21; 28] до анализа возможностей ботнетов как механизма продвижения «сознательной демократии в социальных сетях» [18], новой формы гражданского участия и активизма [2; 16; 24; 26].
В связи с этим в рамках данной статьи предполагается рассмотреть один из аспектов анализа бот-технологий в контексте гражданского активизма, ставится задача показать потенциал бот-технологий для конструирования и решения социальных проблем.
Теоретической рамкой исследования выступает концепция публичных арен С. Хилгартнера и Ч. Боска (изложенная в статье "The rise and fall of social problems: a public arenas model" [9]), которая объясняет, каким образом осуществляется конкуренция за общественное внимание между социальными проблемами и обеспечивается доминирование некоторых из них. Судьба социальной проблемы определяется не ее объективной опасностью или вредом, а тем, как она будет сконструирована (сформулирована и драматургически выстроена) на различных институционализированных публичных аренах, в качестве которых выступают СМИ, политические организации, исполнительная и законодательная власть, некоммерческие структуры, суды, кино и телевидение, научные сообщества, религиозные организации, группы активистов, профессиональные общества, частные фонды и т. д. [9, с. 78].
Эффективность конструирования социальной проблемы на публичных аренах зависит от таких факторов, как:
— влияние на конкурентоспособность культурного и политического контекста;
— пропускная способность конкретных публичных арен;
— умение функционеров, действующих на таких аренах, не допустить «угасания» внимания к проблеме путем поддержания в дискурсе проблемы эмоционального напряжения, драматургии, значимых культурных и социальных символов, уровня новизны;
— способность учитывать организационную специфику публичной арены;
— возможность распространить интерес к проблеме на другие (смежные и не менее значимые) публичные арены.
После выхода статьи С. Хилгартнера и Ч. Боска в 1988 г. появилось большое количество эмпирических исследований, расширяющих ареал интерпретаций данной концепции, в которых рассматривались, например, такие проблемы, как феномен глобализации [15], глобальное изменение климата [6; 13; 27], фреймирование политических дебатов [23], восприятие общественностью новых технологий [21], современный терроризм [10], наркозависимость [5], развитие постнауки [8] и др.
С возникновением и распространением социальных сетей возможности публичных арен информационно и технологически многократно возросли, поскольку социальные медиа стали глобальным пространством репрезентации различных публичных арен (от СМИ и государственных структур до некоммерческих организаций и групп активистов). В связи с этим исследования социальных проблем в контексте концепции публичных арен получают новый импульс [22].
В этом ключе рассмотрим конкретные техники использования социальных ботов как новых технологических и информационных инструментов для конструирования и поддержания социальной проблемы обманутых дольщиков. В качестве кейса для анализа будет выступать ботнет «Обманутые дольщики "ЛенСпецСтроя"», выявленный в результате применения авторской комплексной методики.
Методика обнаружения и анализа ботнетов
Ботнет «Обманутые дольщики "ЛенСпецСтроя"» был выявлен среди совокупности ботнетов в ходе исследования бот-пространства социальной сети «ВКонтакте» (2018—2019 гг.) по комплексной авторской методике, которая объединяет метод частотного анализа размещаемых сообщений (количество уникальных публикаций, тираж одной уникальной публикации, время распространения продублированных публикаций); профайлинг бот-аккаунтов, включающий статичный (наличие уникальных фотографий изучаемого аккаунта и фотоальбомов, наличие видео- и аудиофайлов, наличие уникальных постов на стене профиля и др.) и поведенческий анализ данных профиля пользователя (частота публикуемых уникальных текстов на стене изучаемого аккаунта, частота репостов на стене профиля и др.), статистический анализ текстов с помощью построения временных гистограмм периода распространения контента (время распространения продублированных публикаций) с параллельной визуализацией графов соотношения «автор — текст», анализ структурной организации бот-сети (ручное аннотирование групп, страниц, событий, реальных пользователей в структуре ботнета), а также анализ контента публикуемых текстов (изучение тематики публикуемого контента, структуры контента).
Временные гистограммы позволяют увидеть скорость тиражирования текстов и классифицировать процесс как естественный или искусственный. Данная методика также включает анализ всплесков сетевой публикационной активности, которая позволяет оперативно локализовать функционирование ботнета по определенной теме и концентрирует внимание на резком увеличении числа публикаций в конкретный период времени.
В ходе проведения исследования было использовано следующее программное обеспечение: ElasticSearch (сбор и хранение информации), Kibana, Tableau Desktop, Tableau Server (визуализация данных)
и скрипты на PHP для скачивания информации с применением VK API и ее обработки. По собранным данным были построены временные гистограммы, включающие временной параметр распространения текста, а также визуализацию пары «число авторов — тираж контента» ("authors — count").
Первый шаг исследования заключался в определении периода исследования и списка ключей из 44 слов, которые формировали три тематические области: политику, маркетинг, социальную сферу.
Второй шаг исследования: сбор массива данных, который включал анализ целостности данных в Kibana/Discovery по каждому ключевому слову, внесение отсутствующих ключевых слов в рабочее задание для скриптов на PHP, получающих информацию из VK API и сохраняющих ее в ElasticSearch, добавление в рабочее задание процедур по докачиванию информации для ключевых слов, по которым нет целостности данных. Итоговый массив данных составил 34 094 344 публикации (в том числе продублированные).
Третий шаг включал анализ топов текстов (по тиражируемости) и временных гистограмм их публикации, а также анализ структуры взаимосвязей «автор — текст» на графе. Всего было выявлено 42 ботнета.
Четвертым шагом стал составленный при помощи методики автоматизированной классификации текстов Топ-10 ботнетов по максимальному количеству текстов в конкретном кластере за определенный период для описания тематического ландшафта бот-пространства сети «ВКонтакте», что позволило выявить зоны наиболее интенсивного использования бот-технологий (более подробно о методике и результатах исследования см.: [2; 3]).
В область экстремума попали следующие ботнеты: 6 ботнетов политической направленности, 2 — маркетинговой, 2 — относящихся к сфере поддержки гражданских инициатив.
Наиболее активным из них является ботнет «Обманутые дольщики "ЛенСпецСтроя"» (данный ботнет включает 34 бота, 1836 текстов за исследуемый период, в том числе продублированных ботами). Ботнет имеет сложную структуру, состоит из групп и реальных пользователей сети «ВКонтакте», которые являются дольщиками и пайщиками (рис. 1, 2). В структуру ботнета «Обманутые дольщики "ЛенСпецСтроя"» входят такие социальные боты, представленные в виде онлайн-сообществ (групп), как «Спасем-Наш-Дом Конфликт-С-Лсс», «Бездомный дольщик», «Верни дом себе», «Движение Бездомный дольщик-регионы», «Всероссийский митинг "Бездомный дольщик — акции"», «Спасем наш дом-бездомный дольщик», «ЖК "Ленинградская перспектива ход строител"», «Новые Терийоки — объединенная ИГ ГК "ЛенСпецСтрой"», «Общая группа — дольщики "Ленинградская перспектива"», «Настоящие дольщики ЖК "Квартал в Мурино"», «Дольщики "Ленперспектива квартал
в Мурино"», «Дольщики "ЛенСпецСтрой Мурино"», «Дольщики ЖК "Квартал в Мурино 'ЛенСпецСтрой'"», «Дольщики "Мурино 'ЛенСпецСтрой'"», «Дольщики "'ЛенСпецСтрой' Мурино"».
Пятым шагом стал анализ структуры профилей бот-аккаунтов: статичный и поведенческий анализ данных пользователя социальной сети «ВКонтакте», целью которого была окончательная идентификация 34 выявленных ботов внутри анализируемого ботнета.
Шестой шаг — определение параметров и разработка методики анализа динамики ботнета. Для анализа динамики функционирования данного ботнета за основу были взяты три параметра: 1) период тиражирования контента; 2) количество публикаций; 3) количество ботов, распространивших контент.
Седьмым шагом стал более углубленный анализ одного из параметров динамики — сетевой публикационной активности ботнета: 1) анализ пиков публикационной активности; 2) анализ автоматизированной работы не менее семи технологических аккаунтов; 3) качественный анализ контента публикаций (рис. 1, 2, 3).
Рис. 1. Граф взаимосвязи «автор — текст» ботнета «Обманутые дольщики "ЛенСпецСтроя"»
Рис. 2. Всплески сетевой публикационной активности ботнета «Обманутые дольщики "ЛенСпецСтроя"»
спасем наш дом-бездомный дольщик
даГ^а1
I шшшт
I ггш' • 8
'Я". "ЕШГШВД^ ¿^¡¡»ж» * пвдешм / 1г яёз п
Вступить В фулгу
Информация Свежие новости
— ДОЛЬЩИКИ МУРИНО, ДОЛЬЩИКИ ЛЕНИНГРАДСКОЙ ОБЛАСТИ, ДОЛЬЩИКИ ПЕТЕРБУРГА. ДОЛЬЩИКИ СВОЮ, ДОЛЬЩИКИ РОССИИ
(§) www.BEZDOMNYDOLSHIK.nj
СПАСЕМ НАШ ДОМ БЕЗДОМНЫЙ ДОЛЬЩИК, Са„.
Подробнее
Г\ Включить уведомления
Рассказать друзьям +Д, Пригласить друзей ^ Сохранять в закладках
Рис. 3. Технологический аккаунт (социальный бот) ботнета «Обманутые дольщики "ЛенСпецСтроя"» (группа «Спасем наш дом-Бездомный дольщик»)
Восьмой шаг включал: 1) фиксацию контекстуальных событий, инициирующих активность ботнета; 2) анализ функций ботнета в разные периоды; 3) интерпретацию данных наблюдаемой динамики.
Обработка полученных данных по авторской методике и выявленные характеристики анализируемого ботнета (высокая сетевая публикационная активность, динамика и продолжительность его функционирования, большое количество всплесков, гибридная структура ботнета, состоящая из социальных ботов — онлайн-сообществ (groups) и пользователей (users) социальной сети «ВКонтакте») дают основания для того, чтобы идентифицировать данный ботнет как репрезентативный объект для его интерпретации в контексте концепции публичных арен.
Результаты и обсуждения
Интерпретируя деятельность ботнета «Обманутые дольщики "ЛенСпецСтроя"» в контексте концепции публичных арен, можно рассмотреть активистов движения обманутых дольщиков как одну из публичных арен, представленных в информационном пространстве социальной сети; создателей ботнета — как «функционеров» (operatives); сам ботнет — как способ конструирования социальной проблемы и расширения аудитории, позволяющий многократно увеличить пропускную способность данной публичной арены.
Возникает вопрос: почему из «огромной популяции потенциальных проблем» (в том числе зафиксированных в деятельности ботнетов в сети «ВКонтакте» в рамках исследования 2018 г.) конкуренцию за общественное внимание выиграла именно проблема обманутых дольщиков? Обозначим несколько факторов, коррелирующих с принципами концепции публичных арен.
Социальная и политическая значимость проблемы
Хилгартнер и Боск отмечают, что при формулировке социальной проблемы выигрывают те из них, которые имеют культурную и политическую актуальность [9, с. 83].
Проблема обманутых дольщиков на момент проведения исследования имела определенную социальную, правовую и политическую историю. В 2009 г. Законодательным собранием Санкт-Петербурга был принят закон «О мерах по защите прав участников долевого строительства многоквартирных домов в Санкт-Петербурге», однако он не содержал ни определения, ни критериев для определения обманутого дольщика, а также не позволял в полной мере контролировать действия застройщиков. Поэтому в данный закон регулярно вносились правки в 2010, 2014, 2015 и 2018 гг. В 2017 г. в Федеральный закон от 30.12.2004 № 214-ФЗ «Об участии в долевом строительстве многоквартирных домов и иных объектов недвижимости и о внесении изменений в некоторые законодательные акты Российской Федерации» была введена статья 15.6 «Страхование гражданской ответственности застройщика», в которой говорится о том, что застройщик вправе страховать риск ответственности за неисполнение или ненадлежащее исполнение им обязательств по передаче объекта долевого строительства участнику долевого строи-
тельства по договору. Однако число обманутых дольщиков продолжало расти. Как следует из данных на сайте Министерства регионального развития, в 2011 г. количество обманутых дольщиков в России составило 66 тыс., в 2013 г. — 87 тыс.1, к 2019 г. — 200 тыс. человек2.
Пропускная способность публичньх арен
Структура пропускной способности некоммерческих организаций, к которым можно отнести функционирующие ботнеты, включает такие параметры, как бюджет, время добровольцев, штат участников, использование социетальных ресурсов (финансовых, временных, технологических и др.).
Социальные ботнеты становятся главным (и весьма эффективным) инструментом увеличения пропускной способности рассматриваемой публичной арены, представленной в социальной сети, поскольку автоматизированное тиражирование публикаций позволяет многократно расширить аудиторию, ускорить процесс передачи сообщений, а также сэкономить время, трудозатраты и финансирование заинтересованных акторов/операторов/функционеров.
Сложная структура ботнета «Обманутые дольщики "ЛенСпец-Строя"», включающая технологические аккаунты и реальных пользователей (активистов), позволяет держать социальную проблему «на плаву» за счет того, что, во-первых, публикации в разных связанных между собой онлайн-сообществах часто и быстро распространяются ботами, а во-вторых, присутствие в ботнете реальных пользователей позволяет участникам сообщества увидеть опыт других людей, которые стали обманутыми дольщиками, задать им вопросы в комментариях, уточнить необходимую информацию, что повышает уровень доверия и осведомленности участников ботнет-сообщества. Эта особенность имеет важное значение, поскольку, по мнению Хилгартнера и Боска, пропускная способность существует не только на институциональном, но и на индивидуальном уровне.
Индивидуальные функционеры обладают ограниченными ресурсами, которые они должны размещать тем или иным образом [9, с. 79], поэтому «наиболее важное условие "выживания" проблемы заключается в наличии сторонников, готовых жертвовать своими деньгами или временем». Гражданские активисты, которые используют бот-технологии, должны иметь финансовые ресурсы на создание,
1 Алехина М. Тяжелая доля // Новые известия. 12 декабря 2013 г. [электронный ресурс]. Дата обращения 29.11.2021. URL: https://newizv.ru/news/ society/12-12-2013/194094-tjazhelaja-dolja
2 Ляув Б. Сколько стоит достроить жилье для всех обманутых дольщиков в России // Ведомости. 25 декабря 2019 г [электронный ресурс]. Дата обращения 29.11.2021. URL: https://www.vedomosti.ru/economics/arti-cles/2019/12/24/819635-dostroit-zhile
поддержку и развитие социальных ботнетов (например, на оплату труда администратора/ов). В случае отсутствия администратора гражданские активисты затрачивают личный ресурс времени на создание, публикацию, тиражирование контента, обход блокировок и т. д.
При этом существуют и организационные ограничения различных публичных арен, сказывающиеся на их пропускной способности (для газет и журналов — это площадь столбцов, для радио- и телевизионных новостей — минуты эфирного времени, для телевизионных фильмов и кино — число постановок за год и т. д.). Выявленный ботнет состоит из социальных ботов — ложных профилей (групп) в социальной сети «ВКонтакте». Каждый из этих профилей имеет ограничение по числу публикаций в единицу времени. Если единичный профиль часто и много публикует сообщения, то его могут заблокировать как спам. Поэтому ботнет состоит из множества профилей, которые с большой скоростью тиражируют одну публикацию много раз в разных местах (при этом нужно отметить, что это не отменяет опасности их частичной или полной блокировки, но в течение какого-то времени).
Драматургия, новизна и насыщение социальных проблем
На примере анализируемого ботнета можно показать, каким образом (в соответствии с теорией публичных арен) использовались эффективные технологии поддержания интереса к проблеме обманутых дольщиков: 1) поддержание «энергии действия», 2) использование эмоциональной риторики, 3) использование контекстуальных событий для обеспечения динамики социальной проблемы.
Анализ контента сообщений ботнета «Обманутые дольщики "ЛенСпецСтроя"» показал, что в текстах данного ботнета часто использовались призывы к активным действиям — принять участие в акциях, встречах, митингах, что регулярно «оживляло» проблему, давало ей энергию и исключало риск ее теоретизации, то есть существования только на словах или в текстах, размещенных в онлайн-сообществах и на стенах профилей в социальной сети «ВКонтакте»:
23.10.2017 - ДОЛЬЩИКИ И ПАЙЩИКИ Г. ОРЕЛ. НЕ МИТИНГУЙТЕ «САМИ ПО СЕБЕ». ВСТУПАЙТЕ В ДВИЖЕНИЕ И ТРЕБУЙТЕ КОНКРЕТНЫХ МЕР ПО ДОСТРОЙКЕ ВАШИХЖК! ВМЕСТЕ МЫ СИЛЬНЕЕ.3
24.10.2017 - ВСЕХ ДОЛЬЩИКОВ НАШЕГО ЖК, ДОЛЬЩИКОВ И ПАЙЩИКОВ ДРУГИХ ПРОБЛЕМНЫХ ЖК ЖДЕМ НА ВСТРЕЧУ 25.10.2017 В ОЗЕРКАХ, НА БЛИЖАЙШИЕ АКЦИИ ДВИЖЕНИЯ 04 НОЯБРЯ И НА ВСЕРОССИЙСКИЙ МИТИНГ БЕЗДОМНЫЙ ДОЛЬЩИК 25 НОЯБРЯ 2017 ГОДА.!
3 Здесь и далее в цитатах текстов из ботнета сохраняются их оригинальная стилистика, пунктуация и внешнее оформление.
Лингвистический анализ контента ботнета демонстрирует такие приемы, как лаконичные, выразительные формулировки, апелляция к конкретным фактам, эмоциональная риторика, демонстрация компетентности, знаки препинания, выполняющие интонационно-экспрессивную функцию, что обеспечивает драматичность, энергетическую наполненность проблемы.
21.07.2017 — Присоединяйтесь! Людям негде жить! Семьи с детьми арендуют жилье и не могут получить оплаченную квартиру! Домов нет, а люди платят ипотеку за воздух! Мошенники на свободе!
24.10.2017 — ДОМА НЕ СТРОЯТСЯ. ЗАТО В РОБОТОТЕХНИКЕ ОСВОЕН ВЕСЬ БЮДЖЕТ И УСПЕХИ СУМАСШЕДШИЕ. ВСЕ ХОРОШО, ПРЕКРАСНАЯ МАРКИЗА... БЮДЖЕТ РЕГИОНА НА 2017 ГОД ГОТОВ. СПЛОШНАЯ РАДОСТЬ.
26.10.2017 — НЕТ ИМИТАЦИИ ПОМОЩИ! ДА РЕАЛЬНЫМ ДЕЛАМ ПО КАЖДОМУ ПРОБЛЕМНОМУ ЖК! ДА НОВОСЕЛЬЮ!
Особый интерес представляют анализ динамики всплесков публикационной активности ботнета и ее корреляция с контекстуальными событиями, релевантными и значимыми для эволюции социальной проблемы обманутых дольщиков, что можно рассматривать как способ поддержания новизны на публичной арене.
Было выявлено, что зафиксированные всплески максимальной публикационной активности социальных ботов совпадали с важными и новыми событиями, происходящими в жизни обманутых дольщиков и пайщиков «ЛенСпецСтроя». Таким образом, ботнет выполнял роль рупора, который своевременно и достоверно информировал участников онлайн-сообществ о текущих и предстоящих событиях, призывал к участию в этих событиях.
Первые публикации ботнета «Обманутые дольщики "ЛенСпецСтроя"» появились в мае 2017 г., когда обманутые дольщики стали активно выходить на митинги по причине недостроенных объектов, в которые они вложили деньги.
Автоматизированная работа ботнета датируется с 18 июля 2017 г., когда обманутые дольщики «ЛенСпецСтроя» стали готовиться к согласованному для проведения на Троицкой площади в Санкт-Петербурге всероссийскому митингу всех обманутых дольщиков и пайщиков проблемных жилых комплексов СЗФО (Санкт-Петербурга и Ленинградской области, Вологодской и Калининградской областей). В текстах, распространяемых ботнетом, указывалась цель мероприятия: «привлечение внимания общественности и СМИ к проблемам конкретных ЖК и к рынку нового строительства в целом».
Первый всплеск публикационной активности данного ботнета зафиксирован с 23.10.2017 по 29.10.2017. За указанную неделю было осуществлено 298 публикаций. Период автоматизации работы 7 ботов в структуре ботнета совпадает с периодом, когда у застройщика
ЖК «Ленинградская перспектива» истек срок сдачи по договору долевого участия. Ботнет продолжает информировать участников движения о предстоящих мероприятиях, мобилизовывать участников движения к действиям офлайн, агитировать других пострадавших от действий застройщиков присоединяться к участникам движения, критиковать действующую власть. При этом амплитуда действий в этот период расширяется, «обновляя» проблему: как показывает анализ контента ботнета, к информационной и мобилизационной функциям добавляются еще несколько — рекрутинг, борьба с троллями «ЛенСпецСтроя», критика бездействующей власти, функция «советника власти».
23.10.2017 — Тролли имитируют общение якобы «живых дольщиков» с помощью многочисленных «левых» аватарок. Мы их периодически «палим» по несоответствию ФИО, фото, пола и возраста писавшего или по отсутствию ДДУв нашем ЖК «Ленинградская перспектива».
27.10.2017 — НЕТ ВРАНЬЮ ЧИНОВНИКОВ И ЗАНИЖЕНИЮ СТАТИСТИКИ!
15.01.2018 — й Поэтому последовательно требуем — замены застройщика, — сообщить уже о возбуждении уголовного дела для СМИ и довести уголовное дело до финала, — запретить регистрацию сделок по ЖК «Ленинградская перспект ива» для предотвра щения появления новых обманутых и для снятия социальной напряженности— достроить дом из внешнего финансирования и без доплат от дольщиков! Автоматизированная работа 14 ботов зафиксирована с 15.01.2018
по 10.03.2018. Оригинальным приемом поддержания новизны в динамике социальной проблемы в данный период можно считать использование официальных религиозных праздников для организации и проведения митингов как повода привлечь внимание к проблеме, расширить и диверсифицировать потенциальную аудиторию (например, с 19—21 января 2018 г. в местах, где организованы проруби и дежурит МЧС, проводилось тематическое окунание «Моржи против лжи»).
Первый пик публикационной активности 14 ботов отмечен с 26.03.2018 по 01.04.2018 (409 публикаций за неделю). Это было связано с тремя важными событиями в жизни обманутых дольщиков «ЛенСпецСтроя», которые нашли отражение в содержании тиражируемых публикаций: 1) разочарование в российских политиках, многие из которых обещали помочь обманутым дольщикам в период предвыборной кампании в марте 2018 г.; 2) создание рабочей группы в Санкт-Петербурге по защите прав дольщиков, в которую вошли депутаты местного Законодательного собрания; 3) возбуждение уголовного дела о мошенничестве застройщика «ЛенСпецСтрой» по итогам проверки, проведенной прокуратурой Ленинградской области.
Второй всплеск публикационной активности 14 ботов отмечен с 30.04.2018 по 06.05.2018. В этот период обманутые дольщики стали активно участвовать в разных мероприятиях и привлекать к решению
своих проблем широкую аудиторию. Среди наиболее значимых событий, внимание к которым привлекает ботнет, — участие объединенной группы дольщиков ГК «ЛенСпецСтрой» и движения «Бездомный дольщик» в митинге на Марсовом поле в защиту прав обманутых дольщиков и пайщиков, а также в первомайском марше, в котором приняли участие около 90 обманутых дольщиков и пайщиков компаний «Normann», «ЛенСпецСтрой», «СДС», «СНВ», ЖК «Романтика», «ТриДевяткино царство» и «Новая Каменка».
В третьем всплеске публикационной активности ботне-та с 17.12.2018 по 23.12.2018 распространяемые сообщения связаны с освещением таких событий, как отставка председателя Комитета Смольного по вопросам законности, правопорядка и безопасности Л.П. Богданова, возбуждение уголовных дел в отношении лиц, причастных к делу обманутых дольщиков застройщика «ЛенСпецСтрой», арест имущества обвиняемых для выплат компенсаций пострадавшим. Мобилизационная функция ботнета в данный период связана с организацией митингов за отставку губернатора Ленобласти А. Дрозденко.
Распространение проблемы на другие публичные арены
Важным фактором расширения аудитории в развитии социальной проблемы Хилгартнер и Боск считают распространение дискурса проблемы на другие публичные арены, что в совокупности делает данную проблему социально значимой и привлекающей широкое общественное внимание.
В этом плане можно зафиксировать несколько векторов использования ботнетом «Обманутые дольщики "ЛенСпецСтроя"» данной стратегии. Прежде всего, это использование арены СМИ, где освещалась проблема обманутых дольщиков «ЛенСпецСтроя», на которые даются ссылки в тиражируемых ботнетом публикациях («Первый канал», НТВ, «47 канал», «Новая газета», «Комсомольская правда» и др.)4.
Ботнет также привлекал внимание аудитории к тому, как решается проблема обманутых дольщиков на аренах законодательной и исполнительной власти местного и федерального уровней (депутатские слушания в правительстве Ленинградской области, обращения и встречи с губернатором Ленобласти А. Дрозденко, депутатом Законодательного собрания Санкт-Петербурга О. Галкиной, председателем Комитета по строительству М. Демиденко, главным федеральным инспектором
4 «47 канал». — http://47channel.ru/video_clip/113426; НТВ — https://www.ntv.ru/ video/1570392/?from=newspage; «Первый канал», передача «Человек и закон». — https://ndvc.ru/kompleks_Leningradskaya_perspektiva_lsstroy/; «Санкт-Петербург». — https://topspb.tv/news/2018/01/20/bezdomnye-dolshiki-peterburga-vyshli-na-miting/; «Новая газета» — https://novayagazeta.ru/articles/2018/12/14/78940-sberezhem-telo-dlya-dela-i-dobavim-emu-sosedey-v-sizo; Forbes — https://www.forbes.ru/ biznes/367783-u-piterskih-dolshchikov-ukrali-polmilliarda-rubley; «Комсомольская правда» — https://www.spb.kp.ru/daily/26804/3840057/
по Санкт-Петербургу В. Миненко, председателем Законодательного собрания Ленинградской области С.М. Бебениным, председателем постоянной комиссии по строительству Законодательного собрания Ленинградской области А.Я. Лебедевым, взаимодействие с Администрацией Президента Российской Федерации).
В качестве смежной публичной арены используются политические партии и движения. Так, обманутые дольщики и пайщики «ЛенСпецСтроя» вместе с депутатами партии «Яблоко» и обманутыми участниками долевого строительства Санкт-Петербурга и Ленинградской области проводили 31 марта 2018 г. в саду Сан-Галли совместный митинг за отставку председателя Комитета Смольного по вопросам законности, правопорядка и безопасности Л.П. Богданова, а также принимали участие в первомайском марше.
Завершая анализ функционирования ботнета «Обманутые дольщики "ЛенСпецСтроя"» на публичных аренах социальных сетей, важно отметить, что устойчивое снижение его публикационной активности начинается с 17 декабря 2018 г. Это связано с отражением таких ключевых событий, как отставка председателя Комитета Смольного по вопросам законности, правопорядка и безопасности Л.П. Богданова, диалог участников движения с Минстроем РФ, Генпрокуратурой и СК РФ, ГУ МВД по Санкт-Петербургу и Ленинградской области, Администрацией Президента России и силовыми ведомствами; возбуждение уголовных дел в отношении лиц, причастных к делу обманутых дольщиков застройщика «ЛенСпецСтрой», арест имущества обвиняемых для начала выплат компенсаций пострадавшим; переговоры с новыми инвесторами, которые согласились взять на себя обязательства по завершению строительства недостроенных жилищных комплексов. Но наиболее значимым в этот период было принятие 19 декабря 2018 г. Госдумой РФ в третьем, окончательном чтении поправок в Закон о долевом строительстве.
Таким образом, можно сделать вывод, что цикл социальной проблемы в данный период был завершен не из-за ее «дедраматизации» и «насыщения», а из-за принятия результативных мер для решения проблемы. Важную роль в ее позитивной динамике сыграли эффективные стратегии функционеров публичной арены гражданских активистов по конструированию социальной проблемы в социальных сетях, поддержанию внимания к ней, охвату смежных публичных арен, расширению аудитории, в частности, при помощи использования новейших бот-технологий.
Ограничения исследования связаны с тем, что для более масштабных выводов о динамике социальных проблем на публичных аренах социальных сетей необходимы расширение эмпирической базы, а также изучение механизмов и мер влияния бот-технологий на общественное мнение (что является наиболее трудноразрешимой задачей в рассматриваемом исследовательском поле). Однако авторское исследование
рассмотренного кейса может быть полезно и интересно для других исследователей как первый прецедент анализа новейших компьютерных технологий в контексте концепции публичных арен, демонстрирующий скрытые механизмы конструирования социальной проблемы в публичном информационном пространстве социальных сетей.
ЛИТЕРАТУРА
1. Алымов А.С., Баранюк В.В., Смирнов О.С. Детектирование бот-программ, имитирующих поведение людей в социальной сети «ВКонтакте» // International Journal of Open Information Technologies. 2016. Т. 4. № 8. С. 55-59.
2. Василькова В.В., Легостаева Н.И., Радушевский В.Б. Социальные боты как инструмент развития гражданского участия // Мониторинг общественного мнения: Экономические и социальные перемены. 2019. № 5. С. 19-42. DOI: 10.14515/monitoring.2019.5.02
3. Василькова В.В., Легостаева Н.И., Радушевский В.Б. Тематический ландшафт бот-пространства социальной сети «ВКонтакте» // Журнал социологии и социальной антропологии. 2019. № 22 (4). С. 202-245. DOI: 10.31119/jssa.2019.22.4.8
4. Василькова В.В., Трекин П.А. Компьютерная пропаганда: структурные характеристики и векторы исследования // Вестник Санкт-Петербургского университета. Социология. 2020. Т. 13. № 1. С. 68-83. DOI: 10.21638/ spbu12.2020.105
5. Верминенко Ю.В. Применение метода экспертного опроса в диагностике конструирования социальных проблем в дискурсе власти: на примере проблем наркотизации и алкоголизации в российском обществе // Вестник Орловского государственного университета. Серия: Новые гуманитарные исследования. 2012. № 1. С. 60-65.
6. Гольбрайх В.Б. Экологический конфликт в российской прессе: публичные арены, акторы, конструирование проблем // Вестник Томского государственного университета. Философия. Социология. Политология. 2015. № 1 (29). С. 51-61.
7. Катасев А.С., Катасева Д.В., Кирпичников А.П., Евсеева А.О. Нейросетевая модель идентификации ботов в социальных сетях // Вестник Технологического университета. 2015. Т. 18. № 16. С. 253-256.
8. Федотова В.Г. Академическая и (или) постакадемическая наука? // Вопросы философии. 2014. № 8. С. 44-53.
9. Хилгартнер С., Боск Ч. Рост и упадок социальных проблем: концепция публичных арен // Социальная реальность. 2008. № 2. С. 73-94.
10. Щебланова В.В. Социальное конструирование проблем терроризма // Вестник Нижегородского университета им. Н.И. Лобачевского. Серия «Социальные науки». 2012. № 2 (26). С. 103-107.
11. Bessi A., Ferrara E. Social Bots Distort the 2016 US Presidential Election Online Discussion // First Monday. 2016. Vol. 21. No. 11. P. 1-14. DOI: 10.5210/fm.v21i11.7090
12. Boshmaf Y., Muslukhov I., Beznosov K., Ripeanu M. The socialbot network: when bots socialize for fame and money // Proceedings of the 27th Annual
Computer Security Applications Conference. 2011. P. 93-102. DOI: 10.1145/2076732.2076746
13. Boykoff M.T., Boykoff J.M. Climate change and journalistic norms: A case-study of US mass-media coverage // Geoforum. 2007. Vol. 38. No. 6. P. 1190-1204. DOI: 10.1016/j.geoforum.2007.01.008
14. Chu Z., Gianvecchio S., Wang H., Jajodia S. Who is tweeting on Twitter: human, bot, or cyborg? // Proceedings of the 26th annual computer security applications conference, 2010. P. 21-30. DOI: 10.1145/1920261.1920265
15. Fiss P.C., Hirsch P.M. The discourse of globalization: Framing and sensemaking of an emerging concept // American Sociological Review. 2005. Vol. 70. No. 1. P. 29-52. DOI: 10.1177/000312240507000103
16. Ford H., Puschmann C., Dubois D. Keeping Ottawa Honest — One Tweet at a Time? Politicians, journalists, Wikipedians and their Twitter bots // International Journal of Communication. 2016. Vol. 10. P. 4891-4914.
17. Gorwa R., Guilbeault D. Unpacking the Social Media Bot: A Typology to Guide Research and Policy // Policy & Internet. 2018. Vol. 12. No. 2. P. 225-248. DOI: 10.1002/poi3.184
18. Graham T., Ackland R. Do Socialbots Dream of Popping the Filter Bubble? The Role of Socialbots in Promoting Deliberative Democracy in Social Media. Socialbots and their friends. New York: Routledge, 2017. — 20 p.
19. Grimme C., Preuss M., Adam L., Trautmann H. Social bots: Human-like by means of human control? // Big Data. 2017. Vol. 5. No. 4. P. 279-293. DOI: 10.1089/big.2017.0044
20. Andrews K.T., Neal C. Making the news: Movement organizations, media attention, and the public agenda // American Sociological Review. 2010. Vol. 75. No. 6. P. 841-866. DOI: 10.1177/0003122410386689
21. Macnaghten P., Davies S.R., Kearnes M. Understanding public responses to emerging technologies: a narrative approach // Journal of Environmental Policy & Planning. 2019. Vol. 21. No. 5. P. 504-518. DOI: 10.1080/1523908X.2015.1053110
22. Maratea R.J. The e-Rise and Fall of Social Problems: The Blogosphere as a Public Arena // Social Problems. 2008. Vol. 55. No. 1. P. 139-160. DOI: 10.1525/sp.2008.55.1.139
23. NisbetM.C. Framing, the media, and risk communication in policy debates // Sage handbook of risk communication. Thousand Oaks: SAGE Publications, 2014. P. 216-227. DOI: 10.4135/9781483387918.n25
24. Savage S., Monroy-Hernandez A., Hollerer T. Botivist: Calling volunteers to action using online bots // Proceedings of the 19th ACM Conference on Computer Supported Cooperative Work & Social Computing. 2016. P. 813-822. DOI: 10.1145/2818048.2819985
25. Stieglitz S., Brachten F., Ross B., Jung A.-K. Do Social Bots Dream of Electric Sheep? A Categorisation of Social Media Bot Accounts // Australasian Conference on Information Systems. Hobart, Australia. 2017 P. 1-11.
26. Velazquez E., Yazdani M., Suarez-Serrato P. Socialbots supporting human rights // AIES '18 Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society? 2018. P. 290-296. Accessed 05.12.2021. arXiv:1710.11346 [cs.CY] DOI: 10.1145/3278721.3278734
27. Williams J. The Phenomenology of Global Warming: The Role of Proposed Solutions as Competitive Factors in the Public Arenas of Discourse // Human Ecology Review. 2000. Vol. 7. No. 2. P. 63-72.
28. Woolley S.C., Howard P.N. (ed.) Computational propaganda: political parties, politicians, and political manipulation on social media. Oxford: Oxford University Press, 2018. — 263 p. DOI: 10.1093/oso/9780190931407.001.0001
СВЕДЕНИЯ ОБ АВТОРАХ
Василькова Валерия Валентиновна — доктор философских наук, профессор, кафедра социологии культуры и коммуникации, Санкт-Петербургский государственный университет. Телефон: +7 (812) 363-64-66. Электронная почта: v.vasilkova@spbu.ru
Легостаева Наталья Игоревна — кандидат социологических наук, старший научный сотрудник, Лаборатория изучения социально-экономических и политических процессов современного общества, Санкт-Петербургский государственный университет. Телефон: +7 (812) 363-64-66. Электронная почта: n.legostaeva@spbu.ru
Дата поступления: 02.07.2021.
Sotsiologicheskiy Zhurnal = Sociological Journal. 2021. Vol. 27. No. 4. P. 99-117. DOI: 10.19181/socjour.2021.27.4.8647
Research Article
Valeriya V. Vasilkova', Natalya I. Legostaeva1
1 St Petersburg State University.
1/3, Smolny str., 191124, Saint Petersburg, Russian Federation. Bots in Public Arenas of Social Networks
Abstract. In the study of social bots, one of the important trends is the transition from a technology-centered understanding of bots as a threat to information and computer security to a broader, socially-focused understanding ofbots as a new tool of informational influence used by various social actors in online social networks. This transition is of value to modern sociology. As one such actor, the authors consider a group of civic activists who use bot-technology to construct and solve the problem of defrauded equity holders. The novelty of the article lies in the interpretation of this group's activities in the context of the concept of public arenas. The botnet "Deceived equity holders of LenSpecStroy" was detected thanks to the author's complex methodology that combined the method of frequency analysis of messages, profiling of bot accounts, including static and behavioral analysis of user profiles, statistical analysis of texts, analysis of the botnet's structural organization, analysis of the content of its publications, and analysis of bursts of network publication activity. Analyzing these bursts ofpublication activity and the content ofb otnet publications showed how bot-technologies aided in implementing effective techniques aimed at constructing and maintaining the social problem of defrauded equity holders: expanding the capacity of the public arena, realizing (creating) dramaturgical novelty and emotional richness in discussing the problem, taking into account the organizational
specifics of the public arena, directing interest in the problem towards other (related and equally important) public arenas (media, legislative and executive power, political parties).
Keywords: social bots; botnets; public arenas; social problem; civic activism; defrauded equity holders.
For citation: Vasilkova, V.V., Legostaeva, N.I. Bots in Public Arenas ofSocial Networks. Sotsiologicheskiy Zhurnal = Sociological Journal. 2021. Vol. 27. No. 4. P. 99-117. DOI: 10.19181/socjour.2021.27.4.8647
REFERENCES
1. Alymov A.S., Baranyuk V.V., Smirnov O.S. Detecting bot programs that imitate people's behavior in the social network "VKontakte". International Journal of Open Information Technologies. 2016. Vol. 4. No. 8. P. 55-59. (In Russ.)
2. Vasilkova V.V., Legostaeva N.I., Radushevsky V.B. Social bots as a tool to develop civic engagement. Monitoring obshchestvennogo mneniya: Ekonomicheskie i sotsial'nye peremeny. 2019. No. 5. P. 19-42. (In Russ.) DOI: 10.14515/monitoring.2019.5.02
3. Vasilkova V., Legostaeva N., Radushevskii V. Thematic Landscape of the Bot Space of the Social Network "VKontakte". Zhurnalsotsiologii isotsialnoy antropologii. 2019. No. 22 (4). P. 202-245. (In Russ.) DOI: 10.31119/jssa.2019.22.4.8
4. Vasilkova V.V., Trekin P.A. Computational propaganda: Structural characteristics and vectors of research. Vestnik Sankt-Peterburgskogo universiteta. Sotsiologiya. 2020. Vol. 13. No. 1. P. 68-83. (In Russ.) DOI: 10.21638/spbu12.2020.105
5. Verminenko Y.V. Application of the method of expert survey in diagnosing the construction of social problems in the discourse of power: on the example of drug and alcohol problems in Russian society. Vestnik Orlovskogo gosudarstvennogo universiteta. Seriya: Novyegumanitarnye issledovaniya. 2012. No. 1. P. 60-65. (In Russ.)
6. Golbraikh V.B. Ecological Conflict in the Russian Press: Public Arenas, Actors, Problem Construction. Vestnik Tomskogo gosudarstvennogo universiteta. Filosofiya. Sotsiologiya. Politologiya. 2015. No. 1 (29). P. 51-61. (In Russ.)
7. Katasev A.S., Kataseva D.V., Kirpichnikov A.P., Evseeva A.O. Neural network model of bots identification in social networks. Vestnik Tekhnologicheskogo Universiteta. 2015. Vol. 18. No. 16. P. 253-256. (In Russ.)
8. Fedotova V.G. Academic and (or) Postacademic Science? Voprosy filosofii. 2014. No. 8. P. 44-53. (In Russ.)
9. Hilgartner S., Bosk C. The Growth and Decline of Social Problems: The Concept of Public Arenas. Social'naya real'nost'. 2008. No. 2. P. 73-94. (In Russ.)
10. Shcheblanova V.V. Social Construction of the Problems of Terrorism. Vestnik Nizhegorodskogo universiteta im. N.I. Lobachevskogo. Seriya Sotsial'nye nauki. 2012. No. 2 (26). P. 103-107. (In Russ.)
11. Bessi A., Ferrara E. Social Bots Distort the 2016 US Presidential Election Online Discussion. First Monday. 2016. Vol. 21. No. 11. P. 1-14. DOI: 10.5210/fm.v21i11.7090
12. Boshmaf Y., Muslukhov I., Beznosov K., Ripeanu M. The socialbot network: when bots socialize for fame and money. Proceedings of the 27th Annual Computer Security Applications Conference. 2011. P. 93-102. Accessed 01.12.2021. DOI: 10.1145/2076732.2076746
13. Boykoff M.T., Boykoff J.M. Climate change and journalistic norms: A case-study of US mass-media coverage. Geoforum. 2007. Vol. 38. No. 6. P. 1190-1204. DOI: 10.1016/j. geoforum.2007.01.008
14. Chu Z., Gianvecchio S., Wang H., Jajodia S. Who is tweeting on Twitter: human, bot, or cyborg? Proceedings of the 26th annual computer security applications conference. 2010. P. 21-30. DOI: 10.1145/1920261.1920265
15. Fiss P.C., Hirsch P.M. The discourse of globalization: Framing and sensemaking of an emerging concept. American Sociological Review. 2005. Vol. 70. No. 1. P. 29-52. DOI: 10.1177/000312240507000103
16. Ford H., Puschmann C., Dubois D. Keeping Ottawa Honest — One Tweet at a Time? Politicians, journalists, Wikipedians and their Twitter bots. International Journal of Communication. 2016. Vol. 10. P. 4891-4914.
17. Gorwa R., Guilbeault D. Unpacking the Social Media Bot: A Typology to Guide Research and Policy. Policy & Internet. 2018. Vol. 12. No. 2. P. 225-248. DOI: 10.1002/poi3.184
18. Graham T., Ackland R. Do Socialbots Dream of Popping the Filter Bubble? The Role of Socialbots in Promoting Deliberative Democracy in Social Media. Socialbots and their friends. N.Y.: Routledge, 2017. 20 p.
19. Grimme C., Preuss M., Adam L., Trautmann H. Social bots: Human-like by means of human control? Big Data. 2017. Vol. 5. No. 4. P. 279-293. DOI: 10.1089/big.2017.0044
20. Andrews K.T., Neal C. Making the news: Movement organizations, media attention, and the public agenda. American Sociological Review. 2010. Vol. 75. No. 6. P. 841-866. DOI: 10.1177/0003122410386689
21. Macnaghten P., Davies S. R., Kearnes M. Understanding public responses to emerging technologies: a narrative approach. Journal of Environmental Policy & Planning. 2019. Vol. 21. No. 5. P. 504-518. DOI: 10.1080/1523908X.2015.1053110
22. Maratea R.J. The e-Rise and Fall of Social Problems: The Blogosphere as a Public Arena. Social Problems. 2008. Vol. 55. No. 1. P. 139-160. DOI: 10.1525/sp.2008.55.1.139
23. Nisbet M.C. Framing, the media, and risk communication in policy debates. Sage handbook of risk communication. Thousand Oaks: SAGE Publications, 2014. P. 216-227. DOI: 10.4135/9781483387918.n25
24. Savage S., Monroy-Hernandez A., Hollerer T. Botivist: Calling volunteers to action using online bots. Proceedings of the 19th ACM Conference on Computer Supported Cooperative Work & Social Computing. 2016. P. 813-822. Accessed 05.12.2021. DOI: https://doi. org/10.1145/2818048.2819985
25. Stieglitz S., Brachten F., Ross B., Jung A.-K. Do Social Bots Dream of Electric Sheep? A Categorisation of Social Media Bot Accounts. Australasian Conference on Information Systems. Hobart, Australia, 2017. P. 1-11.
26. Velazquez E., Yazdani M., Su&rez-Serrato P. Socialbots supporting human rights. AIES '18 Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society. 2018. P. 290-296. Accessed 05.12.2021. arXiv:1710.11346 [cs.CY] DOI: 10.1145/3278721.3278734
27. Williams J. The Phenomenology of Global Warming: The Role of Proposed Solutions as Competitive Factors in the Public Arenas of Discourse. Human Ecology Review. 2000. Vol. 7. No. 2. P. 63-72.
28. Woolley S.C., Howard P.N. (ed.) Computational propaganda: political parties, politicians, and political manipulation on social media. Oxford University Press, 2018. 263 p. DOI: 10.1093/oso/9780190931407.001.0001
Information about the authors
Valeriya V. VasUkova — Doctor of Philosophy, Professor, Department of Sociology of Culture and Communication, St Petersburg State University. Phone: +7 (812) 363-64-66. Email: v.vasilkova@spbu.ru
Natalya I. Legostaeva — Candidate of Sociological Sciences, Senior Researcher of the Laboratory for the Study of Socio-Economic and Political Processes of Modern Society, St Petersburg State University. Phone: +7 (812) 363-64-66. Email: n.legostaeva@spbu.ru
Received: 02.07.2021.
