CC BY
180
УДК 15943-057.87
Самосват О. И., Брежнева Т. С., Шмеерова Е. Р.
Акционерное общество «Крибрум»
121205, г. Москва, Территория инновационного центра «Сколково», Большой б-р, д. 42, стр. 1, Российская Федерация
ЭФФЕКТИВНОСТЬ БЛОКИРОВКИ ДЕСТРУКТИВНЫХ ГРУПП В СОЦИАЛЬНЫХ СЕТЯХ
АННОТАЦИЯ
Цель. Выявление проблем эффективности мероприятий по блокировке деструктивных групп в социальных сетях и формулировка рекомендаций для повышения эффективности данных мероприятий. Процедура и методы исследования. Исследование проводилось на базе открытых данных социальных сетей (ВКонтакте, Facebook, Одноклассники, Instagram) с февраля 2016 по июль 2019 гг. Исследовались деструктивные группы: колумбайн-группы, а.у.е., группы смерти. Методы анализа: контент-анализ, критический дискурс-анализ, комплексно-процессуальный метод, метод наблюдения, статистические методы.
Результаты проведённого исследования. На настоящий момент мероприятия по блокировке деструктивных групп малоэффективны. С момента начала блокировок число вовлеченных в деструктивные группы выросло беспрецедентно. Установлены погрешности в механизме блокировки. Теоретическая и практическая значимость. По результатам исследования выработан метод повышения эффективности блокировки деструктивных групп в социальных сетях. КЛЮЧЕВЫЕ СЛОВА
блокировка сообществ, социальные сети, деструктивные группы, группы смерти, а.у.е., колумбайн-группы
СТРУКТУРА
Введение
Результаты и обсуждение Выводы
O. Samosvat, T. Brezhneva, E. Shmeerova
"Kribrum" JSC
42/1 Bolshoy bulvar, The territory of the Skolkovo innovation center, Moscow 121205, Russian Federation
THE EFFECTIVENESS OF BLOCKING DESTRUCTIVE GROUPS IN SOCIAL NETWORKS
ABSTRACT
The purpose. To identify the effectiveness of measures used in blocking malicious destructive social media groups and to work out recommendations to increase the efficiency of these measures.
Procedure and research methods. The basis of the research are available relevant social media posts dating from February 2016 to July 2019 from open social networks: VKontakte, Facebook, Odnoklassniki, Instagram. The following groups: Columbine shooting, "A.y.E", death/suicide groups were studied. Analysis methods include content analysis, critical discourse analysis, process-integrated method, observation method, examination of activity results method, statistics.
The results of the research. Currently, attempts to block groups prove to be ineffective. Since the start of blocking the number of participants multiplied. The process of blocking suffers a number of faults.
Theoretical and practical relevance. The result of the research is the effective
strategy of blocking destructive groups in social networks
KEYWORDS
blocking online communities, social networks, destructive groups, death/ suicide groups, «A.y.E.», columbine groups
ВВЕДЕНИЕ
Деструктивные течения в интернет-пространстве - это объединения в интернет-пространстве, которые прямо или косвенно распространяют деструктивное поведение [3, с. 3].
Деструктивное поведение - это разрушительное поведение, направленное вовне или на самого себя, приводящее к нарушению качества жизни человека, снижению критичности к своему поведению, когнитивным искажениям восприятия и понимания происходящего, эмоциональным нарушениям, что, в итоге, приводит к состоянию социальной дезадаптации личности [3, с. 10; 12, с. 85].
На сегодняшний день в социальных сетях пользуются популярностью следующие деструктивные движения: ультрадвижение, а.у.е., наркомания, скулшутинг, суицидальные группы и группы смерти, анархизм и др. На территории Российской Федерации запрещены - группы смерти, а.у.е. и скулшутинг.
Группы смерти - группы в социальных сетях, предлагающие подросткам принять участие в игре, конечная цель которой - самоубийство. После случаев подростковых смертей в 2015-2016 гг., совершённых под принуждением «кураторов», был принят закон, согласно которому все группы, в которых публикуются материалы, призывающие к суициду, должны быть заблокированы [9, с. 39].
Скулшутинг (иногда «колумбайн», по названию самого известного скул-шутинга) - вооружённое нападение одного или нескольких человек на обучающихся внутри образовательного учреждения. В России движение скул-шутинга начало формироваться летом 2017 г., в сентябре того же года произошёл первый случай вооружённого нападения на школу участника этого движения в г. Ивантеевка Михаила Пивнева.
А.У.Е. - культура «Арестантский уклад един» или «Арестантское уркаган-ское единство». Движение изначально существовало как самостоятельное течение, но после первых случаев блокировки сообществ данной тематики в 2018 г. начало сливаться с «Ультрадвижением» и продолжает формирование по сей день. Участники движения периодически устраивают групповые драки и массовые беспорядки, часто наносят вред здоровью и жизни друг друга, мирному населению, портят имущество.
Данные деструктивные группы запрещены на территории РФ Федеральным законом от 29 декабря 2010 г. № 436-Ф3 «О защите детей от информации, причиняющей вред их здоровью и развитию» [7, с. 94]. За безопасностью подростков в сети следят несколько уполномоченных ведомств: Федеральная служба Российской Федерации по контролю над оборотом наркотиков (ФСКН России), Роспотребнадзор, Роскомнадзор, Центр Изучения и Сетевого Мониторинга Молодёжной Среды.
Изучению проблемы деструктивного поведения в социальных медиа посвящены научные работы зарубежных и отечественных социологов, криминалистов, психологов, психиатров, юристов и т. п. Особое внимание уделяется направлениям: криминогенные последствия воздействия социальных медиа (Р. В. Анхимова, Е. В. Щетинина, С. Томпсон) [2; 15; 18], механизмы и причины возникновения деструктивного поведения (Д. Г. Давыдов, К. Д. Хломов, Т. Балаева, В. О. Карпов, П. Лэнгман, А. М. Бычкова, Э. Л. Раднаева, С. Бауман) [8; 5; 13; 6; 16], социально-психологические особенности лиц, вовлечённых в деструктивные движения (Ю. М. Пасовец, Л. В. Баева, Л. С. Акопян, С. С. Мишина, С. А. Игумнов, В. В. Зарецкий, Е. Ю. Шамарова, О. И. Ефимова, С. П. Хиндуя) [14; 4; 1; 11; 10; 17]. По данным портала www.eLibrary.ru, с 2016 г. число статей, посвящённых исследованию деструктивного поведения в социальных медиа, выросло в 3 раза.
В начале 2018 г. подписан закон о внесудебной блокировке групп и сообществ, распространяющих опасную для здоровья и жизни несовершеннолетних информацию. Блокировка группы осуществляется вследствие ре-
шения уполномоченных органов (Роскомнадзор, Роспотребнадзор, ФСКН) (Федеральный закон № 139-Ф3), вследствие решения суда и вследствие решения администрации социальных сетей.
Кроме того, социальные сети, такие как, например, Facebook и ВКон-такте, предоставляют своим пользователям возможность пожаловаться с помощью кнопки «Пожаловаться» на сообщество, аккаунт, публикацию, комментарий, если контент распространяет запрещённую информацию или спам. На сайте Роскомнадзора также существует форма, в которую можно внести жалобы относительно сайта или сообщества, содержащего неправомерный контент.
Однако, несмотря на практику блокировок, в социальных сетях всё ещё присутствуют запрещённые деструктивные группы и проявляют свою активность. Понимая актуальность и важность темы, мы сформировали задачи исследования:
1. изучить особенности распространения запрещённых в России молодёжных деструктивных групп в социальных медиа (скулшутинг, а.у.е., группы смерти);
2. изучить особенности блокировки запрещённых в России молодёжных деструктивных групп в социальных медиа (скулшутинг, а.у.е., группы смерти);
3. изучить эффективность блокировок и реакцию деструктивных групп на проводимые мероприятия по блокировке;
4. выработать рекомендации по повышению эффективности блокировки запрещённых в России молодёжных деструктивных групп в социальных медиа (скулшутинг, а.у.е., группы смерти);
Исследование проводилось на базе социальных сетей (ВКонтакте, Facebook, Twitter, Одноклассники, Instagram) с февраля 2016 по июль 2019 гг. Базой для анализа стали все публикации социальных медиа, находящиеся в открытом доступе; эффективность блокировки исследовалась на деструктивных течениях: колумбайн-группы, а.у.е., группы смерти. Критериями отбора групп для исследования являлись: открытость группы, соответствие группы деструктивной тематике, активность группы (обновление не реже раза в полугодие).
Группы выявлялись по наличию в их названии слов-маркеров, соответствующих лексике деструктивного движения (колумбайн-сообщества: «колумбайн», «эрик харрис» и «дилан клиболд», «скулшутинг», «wrath», «natural selection» и т. п.; а.у.е.: «жизнь ворам», «блатота», «босота» и т. п.; группы смерти: «красная сова не спит», «разбуди меня в 4.20», «море китов», «тихий лес», «тихий дом», «и19» и т. п.), по наличию на аватаре группы изображений и символов, характерных для движения (колумбайн-сообще-ства: изображение школы колумбайн, изображение скулшутеров; а.у.е.: изображение звезды воров, аббревиатур, популярных среди сторонников движения, тюремной символики; группы смерти: депрессивные и мрачные
изображения, изображение известных самоубийц, изображение китов), по наличию опубликованных материалов по основной тематике деструктивных движений (более 40 % от всех материалов группы). В каждой группе были проведены количественный анализ параметров: общего числа подписчиков, числа публикаций группы, общего числа реакции пользователей на материалы в виде лайков, репостов, комментариев - а также качественный анализ параметров: модальности сообщений, тематики сообщений, поведенческих и коммуникативных паттернов активности. Было выделено общее число подписчиков (без учёта пересечений) и установлены особенности коммуникативной активности для каждого деструктивного движения. Был сформирован список администраторов групп и самых активных участников групп, а также были проанализированы их связи (глубиной до 3 круга связей).
Замеры эффективности блокировки деструктивных групп проводились не реже одного раза в неделю в фазе активного распространения деструктивного течения (для групп смерти: февраль - май 2016 г., ноябрь - декабрь 2017 г., январь - май, декабрь 2018 г.; для колумбайн-групп: сентябрь - декабрь 2017 г., январь - май 2018 г., сентябрь - декабрь 2018 г., февраль - май 2019 г; для а.у.е.: июнь - сентябрь 2017 г., февраль - март 2018 г., июнь - июль 2019 г.).
Методы анализа: метод изучения продуктов деятельности, в частности контент-анализ (число публикаций группы, общее число реакции пользователей на материалы в виде лайков, репостов, комментарий, модальность сообщений, тематика сообщений); критический дискурс-анализ (поведенческие и коммуникативные паттерны активности), комплексно-процессуальный метод (тематика сообщений), метод наблюдения, статистические методы (мода, медиана, среднее и т. п.).
РЕЗУЛЬТАТЫ И ОБСУЖДЕНИЕ
По результатам анализа эффективности блокировки деструктивных течений, признанных опасными для подростков, нами были установлены следующие особенности и тенденции.
Во-первых, блокировка групп никогда не происходит тотально. После вступления в силу распоряжения о блокировке групп, относящихся к конкретному течению, все установленные группы блокируются в течение 7-10 дней поэтапно с шагом в 1-2 дня. В первые дни блокируется лишь третья часть групп, затем ещё часть, и только к концу недели заблокированными оказываются около 92 % групп. Остальные 8 % групп не блокируются, так как они признаются не соответствующими описанию группы данного течения.
Во-вторых, блокируются сами группы, но не их администраторы и активные участники.
В-третьих, не блокируются смежные деструктивному течению группы, которые также являются частью движения или косвенно распространяют движение. Например, в рамке блокировки колумбайн-групп закрывают группы, посвящённые Эрику и Дилану (стрелки из школы Колумбайн), но не блокируют групп, посвящённых Адаму Лэнза (стрелок из Сэнди-Хук).
В-четвёртых, блокировки групп и аккаунтов имеют свои особенности:
Блокировка групп
• «Порционное» ограничение доступа деструктивных групп приводит к тому, что участники заблокированных групп публикуют в активных группах сообщения с предупреждением о блокировках.
• Блокировка групп без блокировки лидеров не имеет должного эффекта. Заинтересованные подписчики связаны друг с другом (подписаны друг на друга, следят за активностью друг друга). В случае блокировки тематических групп лидеры движений либо сами создают новые группы и приглашают в них подписчиков, либо распространяют информацию о новых группах со своего персонального аккаунта.
Блокировка аккаунтов
• Временная блокировка аккаунта с возможностью восстановления не приносит долгосрочных результатов. Для восстановления аккаунта требуется лишь ответить на пару вопросов администратора и сменить пароль.
• Полная блокировка одного или нескольких аккаунтов лидеров с сохранением доступа аккаунтов других лидеров этого же течения не достаточно эффективна. При блокировке одного из лидеров другие лидеры помогают ему восстановиться или создать новый аккаунт.
На настоящий момент эффективность блокировки деструктивных групп оценивается как «ниже среднего» в виду следующих особенностей трансформации самих групп:
1. Рост числа групп и числа последователей в деструктивном течении после блокировки.
• на сентябрь 2017 г. насчитывалось 10 групп в тематике «колумбайн» (суммарное число последователей около 1,5 тыс. аккаунтов), после нападения Михаила Пивнева 5 сентября на школу Ивантеевки и широкого освещения произошедшего в СМИ число групп выросло до 45 (суммарное число последователей 8756 аккаунтов). В декабре начались первые блокировки данных групп, однако, не смотря на тотальную блокировку, к апрелю 2018 г. в сети действовало 38 групп, а число их последователей выросло в 1,5 раза. Ровно через год (даже в условиях постоянных блокировок) число колумбайн-групп выросло до 83 (суммарное число последователей 17243). Таким образом, после блокировок число колумбайн-групп только выросло в 8 раз, а число последователей выросло почти в 12 раз (рис. 1, 2).
О
О х
Динамика популярное» групп по скулшутннгу среди пользователей
200(H) -
Ii ООО
г»
2017 год 201 ß год 2019 год
■ Количество подписчиках d группах по скулшугшпу
Рисунки 1, 2 / Figures 1, 2.
Количество групп по скулшутингу в 2017, 2018 и 2019 гг. и их популярность среди пользователей (общее количество подписчиков).
The number of schoolshooting groups in 2017, 2018 and 2019 and their popularity among users (total number of subscribers)
• к февралю 2016 г. группы смерти уже тотально блокировались, на начальном этапе данных групп было менее 40 со средним числом последователей от 40 до 350 человек. Однако, после того как в феврале тема вызвала массовую панику, подвергшись широкому обсуждению в СМИ и социальных сетях, число групп и их последователей выросло более чем на 400 %. В октябре - декабре 2017 г. действовало примерно 14 групп с общим числом подписчиков 450 аккаунтов. С января по май 2018 г. действовало 9 групп с общим числом подписчиков более 1,2 тыс. аккаунтов. Последняя активность отмечается в декабре 2018 г., тогда действовало 6 групп с общим числом последователей около 9 тыс. аккаунтов. Таким образом, после блокировок число групп смерти первоначально выросло на 400 %, на данный момент они продолжают существовать, не смотря на блокировку. Число вовлечённых больше в 3 раза, чем было до блокировки (рис. 3, 4).
Дннямикл
распространения групп
смерти
200
1i0
■
ILIO
3D ■
0
-'.'1С гад конец 2017 юл начало конец 2016 201S 201В года года года
' Количество групп смерти в социальной сети Вконтакте
Рисунки 3, 4 / Figures 3, 4.
Количество групп смерти в 2016, 2017 и 2018 гг. и их популярность среди пользователей (общее количество подписчиков).
The number of death groups in 2016, 2017 and 2018 and their popularity among users (total number of subscribers)
• на ноябрь 2017 г. насчитывалось более 2 тыс. групп, посвящённых а.у.е., с числом подписчиков до 290 тыс. Активно блокировать их начали с конца мая 2018 г. С начала блокировок движение а.у.е. присоединилось к ультрадвижению и растворилось в нём. Однако самостоятельных групп движения даже сейчас насчитывается 91 с общим числом подписчиков более 200 тыс. аккаунтов. Ультрадвижение насчитывает более 40 групп, которые суммарно собирают аудиторию в 25 млн. аккаунтов. Таким образом, после блокировки групп а.у.е. число их снизилось за счёт миграции в другое движение (однако они продолжают существовать, не смотря на блокировку), число последователей беспрецедентно выросло (рис. 5, 6).
Рисунки 5, 6 / Figures 5, 6.
Количество групп смерти в 2017 и 2018 гг. и их популярность среди пользователей (общее количество подписчиков).
Number of death groups in 2017 and 2018 and their popularity among users (total number of subscribers)
• Установлено, что после блокировки не удаётся полностью заблокировать распространение движения. Более того, число последователей его только растёт - это можно объяснить как запретностью групп (что вызывает интерес подростков), так и широким освещением темы в СМИ.
2. Перемещение групп с одной площадки на другую.
• Установлено, что тотальная блокировка в одной социальной сети приводит к тому, что группы перемещаются в другую сеть. Замечен рост числа последователей колумбайн-групп в социальных сетях Instagram, Twitter и Tumbler после массовой блокировки групп во ВКонтакте.
• В случаях, когда все социальные сети одинаково тотально блокируют деструктивные группы, как, например, группы смерти, деструктивное течение уходит на защищённую платформу, так называемый Darknet.
3. Мутация групп и их полная «перепрошивка».
• Блокировки групп приводят к тому, что они мутируют, изменяя свой сленг, свои поведенческие особенности и тип публикуемого контента. Например, группы смерти каждый день меняют хэштеги, по которым их вычисляют надзирающие органы; их сленг, название групп постоянно видоизменяются.
• Блокировка групп приводит к тому, что группы полностью «перепрошиваются», т. е. меняют своё название, содержание постов, информацию о себе. Такие группы как бы выходят из запрещённого движения, но всё ещё остаются в рамках смежных тем.
4. Выработка группами методов защиты в ответ на блокировку.
Группы защищаются от блокировки несколькими способами:
• создание резервной группы, указанной в самой группе или на персональной странице администратора группы;
• предупреждение друг друга о начале блокировок;
• создание сети из дружеских связей для распространения информации о новой группе;
• создание закрытой группы «для своих» без опознавательных знаков;
• отсутствие опознавательных знаков (аватара, названия, хэштегов) и разбавление контента;
• слияние с другими смежными движениями, не блокируемыми системой;
• использование специфического сленга, напрямую не указывающего на деструктивное течение;
• использование шифров, символов, кодов в тексте, написание текста с ошибками.
5. Выход групп на диалог с лицами и организациями, ответственными за блокировку.
После начала блокировок групп их администраторы и участники начинают вести диалог, публикуют сообщения с прямым обращением к контролирующим органам. Всего можно выделить четыре вида таких сообщений:
• Размещение в информации о группе сообщений о том, что группа не относится к деструктивному течению, не распространяет деструктивное течение и является лишь информационным ресурсом.
• Размещение в информации о группе сообщений с прямой просьбой не блокировать. Например: «Роскомнадзор, не блокируй!».
• Сообщения, оставленные участниками группы в самой группе. Например: «Роскомнадзор, не блокируй эту группу, пожалуйста».
• Сообщения, оставленные участниками группы в других группах с просьбой о помощи. Например: «Роскомнадзор блокирует колумбайн-груп-пы, помогите!».
По результатам исследования нами разработан перечень мер, который может повысить эффективность блокировки деструктивных групп в социальных медиа.
6. Одновременная полная блокировка лидеров движения без возможности восстановления. Данные меры разорвут связи лидеров и на продолжительное время деактивируют движение. Практика показывает, что полная блокировка без возможности восстановления оказывает воздействие на активных лидеров и последователей движения - они перестают вести внешнюю активность и опасаются вести скрытую активность.
7. Одновременная полная блокировка деструктивных групп одного течения (в том числе групп по смежной тематике). Данные меры разорвут связи лидеров и подписчиков и на продолжительное время деактивируют движение. Данная мера также лишает возможности рекламы новых групп для большого числа подписчиков. Практика показывает, что преобладающее число подписчиков после блокировки групп не может найти новые группы данной тематики самостоятельно и переходит в группы смежных тематик.
8. Наибольший эффект окажет одновременная полная блокировка деструктивных групп и лидеров одного течения. Данные меры практически полностью деактивируют движение, так как преобладающее большинство подписчиков не могут найти новые группы и новых лидеров данной тематики самостоятельно.
выводы
В результате исследования динамики групп риска скулшутинга (колумбайн-групп), суицидальных игр (группы смерти), а также групп подражания криминальному поведению (а.у.е.) установлено, что временное ограничение доступа аккаунтов не приносит долгосрочных результатов. Установ-
лено также, что ограничение доступа группам аккаунтов, произведённое с перерывом во времени более 2-х дней (часть аккаунтов заблокирована в один день, оставшаяся часть в другой день), не имеет должного эффекта.
Установлено, что с момента блокировки: число колумбайн-групп выросло в 8 раз, а число последователей выросло почти в 12 раз; число вовлечённых в группы смерти выросло в 3 раза; число последователей а.у.е. выросло беспрецедентно (точное число невозможно установить в виду миграции движения в ультрадвижение).
Выявлены особенности, влияющие на эффективность блокировки групп: перемещение групп с одной площадки на другую, мутация групп и их полная «перепрошивка», выработка группами методов защиты в ответ на блокировку, выход групп на диалог с лицами и организациями, ответственными за блокировку. Установлены ключевые ошибки блокировки групп и аккаунтов, влияющие на её эффективность, - это «порционная» блокировка (с шагом в 2-3 дня), а также блокировка групп без блокировки её администраторов.
На основании проведённого исследования предлагаем перечень мер для повышения эффективности блокировки деструктивных групп в социальных медиа, в их числе: одновременность блокировки, блокировка групп и их администраторов, одновременная блокировка как прямых, так и косвенных (смежных) групп течения.
ЛИТЕРАТУРА
1. Акопян Л. С., Мишина С. С. Психологические аспекты суицидального поведения подростков // Вестник Самарского юридического института. 2018. № 4 (30). С. 119-124.
2. Анхимова Р. В. Криминогенные последствия воздействий средств массовой информации // Научный портал МВД России. 2015. № 1. С. 45-51.
3. Ашманов И. С., Касперская Н. И. Методическое пособие по выявлению признаков риска поведения в социальных сетях [Электронный ресурс] // Цифровая гигиена: молодежь в сети, Москва, 28 марта 2019 г. URL: https:// saizyral.rtyva.ru/wp-content/uploads/2019/04/Metod_posobie.pdf (дата обращения: 24.12.2019).
4. Баева Л. В. Эскапизм в цифровом социуме: от хикикомори до «групп смерти» // Ценности и смыслы. 2018. № 2. С. 39-54.
5. Балаева Т. Эффект «Колумбайна». Почему подростки идут убивать [Электронный ресурс]. URL: http://cryptus.world/2018/01/27/effekt- kolumbayna-pochemu-podrostki-idut-ubivat.html (дата обращения: 15.02.2018).
6. Бычкова А. М., Раднаева Э. Л. Доведение до самоубийства посредством использования интернет-технологий: социально-психологические, криминологические и уголовно-правовые аспекты // Всероссийский криминологический журнал. 2018. Т. 12. № 1. С. 101-115.
7. Горбатов С. В. Изучение деструктивного поведения несовершеннолетних // Ананьевские чтения - 2004: материалы научно практической конференции. СПб., 2004. С. 94-95.
8. Давыдов Д. Г., Хломов К. Д. Массовые убийства в образовательных учреждениях: механизмы, причины, профилактика // Национальный психологический журнал. 2018. № 4 (32). С. 62-76.
9. Демдоуми Н. Ю., Денисов Ю. П. Социальная сеть как аспект суицидальной активности среди детей и молодёжи (на основе анализа социальной сети «Вконтакте») // Тюменский медицинский журнал. 2013. Т. 15. № 3. С. 37-38.
10. Ефимова Д. В. Суицид: новые технологии привлечения смерти // Академическая психология. 2016. № 4. С. 31-48.
11. Игумнов С. А., Зарецкий В. В., Шамарова Е. Ю. Сайты аутодеструктивного содержания в русскоязычном сегменте интернет // Вопросы психического здоровья детей и подростков. 2018. Т. 18. № 4. С. 75-82.
12. Кабанов К. В. Трансформация идентичности подростков в социальных сетях как проблема их психологической безопасности // Прикладная юридическая психология. 2016. № 4. С. 83-87.
13. Карпов В. О. Культ Колумбайна: основные детерминанты массовых убийств в школах // Вестник Казанского юридического института МВД России. 2018. № 4 (34). C. 442-446.
14. Пасовец Ю. М. К социальному портрету российской молодежи: общие черты и региональная специфика имущественного положения // Социологические исследования. 2010. № 3. С. 101-106.
15. Щетинина Е. В. Проблемы развития культуры насилия в интернет-пространстве // Инновационное развитие профессионального образования. 2018. № 2 (18). С. 127-130.
16. Bauman S., Toomey R. B., Walker J. L. Associations among bullying, cyberbullying, and suicide in high school students // Journal of Adolescence. 2013. Vol. 36. P. 341-350.
17. Hinduja S., Patchin J. Bullying, cyberbullying and suicide // Archives of Suicide Research. 2010. № 14 (3). P. 206-221.
18. Thompson S. The internet and its potential influence on suicide // Psychiatric Bulletin. 1999. № 8. P. 449-451.
REFERENCES
1. Akopyan L. S., Mishina S. S. [Psychological aspects of suicidal behavior in adolescents]. In: Vestnik Samarskogo yuridicheskogo instituta [Bulletin of the Samara Law Institute], 2018, no. 4 (30), pp. 119-124.
2. Ankhimova R. V. [The criminogenic impact of the media]. In: Nauchnyi portal MVD Rossii [Scientific portal of the Ministry of Internal Affairs of Russia], 2015, no. 1, pp. 45-51.
3. Ashmanov I. S., Kasperskaya N. I. [Toolkit for the identification of signs of risk behaviour in social networks]. In: Tsifrovaya gigiena: molodezh' v seti, Moskva, 28 marta 2019 g. [Digital hygiene: youth network, Moscow, March 28th, 2019]. Available at: https://saizyral.rtyva.ru/wp-content/uploads/2019/04/Metod_ posobie.pdf (accessed: 24.12.2019).
4. Baeva L. V. [Escapism in the digital society: from hikikomori to the "group of death"]. In: Tsennosti i smysly [Values and meanings], 2018, no. 2, pp. 39-54.
5. Balaeva T. Effekt «Kolumbaina». Pochemu podrostki idut ubivat' [The effect of "Columbine". Why teenagers decide to kill]. Available at: http://cryptus. world/2018/01/27/effekt- kolumbayna-pochemu-podrostki-idut-ubivat.html (accessed: 15.02.2018).
6. Bychkova A. M., Radnaeva E. L. [Incitement to suicide through the use of Internet technologies: social, psychological, criminological and criminal law aspects]. In: Vserossiiskii kriminologicheskii zhurnal [All-Russian Criminological Journal], 2018, vol. 12, no. 1, pp. 101-115.
7. Gorbatov S. V. [The study of destructive juvenile behavior]. In: Anan'evskie chteniya - 2004: materialy nauchno-prakticheskoi konferentsii [Ananievskiy studies - 2004: proceedings of the scientific practical conference]. St. Petersburg, 2004, pp. 94-95.
8. Davydov D. G., Khlomov K. D. [Mass murder in educational institutions: mechanisms, causes, prevention]. In: Natsional'nyi psikhologicheskii zhurnal [National Psychological Journal], 2018, no. 4 (32), pp. 62-76.
9. Demdoumi N. Yu., Denisov Yu. P. [Social network as an aspect of suicidal activity among children and youth (based on the analysis of social network "Vkontakte")]. In: Tyumenskii meditsinskii zhurnal [Tyumen Medical Journal], 2013, vol. 15, no. 3, pp. 37-38.
10. Efimova D. V. [Suicide: new technologies attract death]. In: Akademicheskaya psikhologiya [Academic psychology], 2016, no. 4, pp. 31-48.
11. Igumnov S. A., Zaretsky V. V., Shamarova E. Yu. [The sites of self-destructive content in the Russian segment of the Internet]. In: Voprosy psikhicheskogo zdorov'ya detei ipodrostkov [Mental health of children and adolescents], 2018, vol. 18, no. 4, pp. 75-82.
12. Kabanov K. V. [The transformation of adolescents identity in social networks as a problem of psychological security]. In: Prikladnaya yuridicheskaya psikhologiya [Applied Legal Psychology], 2016, no. 4, pp. 83-87.
13. Karpov V. O. [The cult of Columbine: the major determinants of mass killings in schools]. In: Vestnik Kazanskogo yuridicheskogo instituta MVD Rossii [Bulletin of the Kazan Law Institute of the Ministry of Internal Affairs of Russia], 2018, no. 4 (34), pp. 442-446.
14. Pasovets Yu. M. [Social portrait of Russian youth: common features and regional specifics of the financial situation]. In: Sotsiologicheskie issledovaniya [Case studies], 2010, no. 3, pp. 101-106.
15. Shchetinina E. V. [Problems of development of a culture of violence in the Internet]. In: Innovatsionnoerazvitieprofessional'nogo obrazovaniya [Innovative development of vocational education], 2018, no. 2 (18), pp. 127-130.
16. Bauman S., Toomey R. B., Walker J. L. Associations among bullying, cyberbullying, and suicide in high school students. In: Journal of Adolescence, 2013, vol. 36, pp. 341-350.
17. Hinduja S., Patchin J. Bullying, cyberbullying and suicide. In: Archives of Suicide Research, 2010, no. 14 (3), pp. 206-221.
18. Thompson S. The internet and its potential influence on suicide. In: Psychiatric Bulletin, 1999, no. 8, pp. 449-451.
ДАТА ПУБЛИКАЦИИ
Статья поступила в редакцию: 20.01.2020 Статья размещена на сайте: 20.03.2020
ИНФОРМАЦИЯ ОБ АВТОРАХ / INFORMATION ABOUT THE AUTHORS
Самосват Ольга Ивановна - кандидат психологических наук, руководитель направления исследований, ведущий психолог АО «Крибрум»; e-mail.ru: [email protected] Брежнева Татьяна Сергеевна - поведенческий психолог АО «Крибрум»; e-mail.ru: [email protected]
Шмеерова Евгения Руслановна - поведенческий психолог АО «Крибрум»; e-mail.ru: eva. [email protected]
Olga I. Samosvat - PhD in Psychological sciences, Head of Research, leading psychologist at "Kribrum" JSC; e-mail.ru: [email protected]
Tatyana S. Brezhneva - behavioral psychologist, "Kribrum" JSC; e-mail.ru: [email protected] Evgeniya R. Shmeerova - behavioral psychologist, "Kribrum" JSC; e-mail.ru: eva.boychuk@ yandex.ru
ПРАВИЛЬНАЯ ССЫЛКА НА СТАТЬЮ / FOR CITATION
Самосват О. И., Брежнева Т. С., Шмеерова Е. Р. Эффективность блокировки деструктивных групп в социальных сетях // Вестник Московского государственного областного университета (электронный журнал). 2020. № 1. URL: www.evestnik-mgou.ru Samosvat O. I., Brezhneva T. S., Shmeerova E. R. The effectiveness of blocking destructive groups in social networks. In: Bulletin of Moscow Region State University (e-journal), 2020, no. 1. Available at: www.evestnik-mgou.ru
