CC BY
36
УДК 793.7+004.946:343.326-053.6
https ://doi.org/10.24158/spp.2018.9.6
Артамонова Виктория Владимировна
старший преподаватель кафедры социологии и психологии Байкальского государственного университета
ИГРОВЫЕ ПРАКТИКИ ПО РАСПРОСТРАНЕНИЮ ЭКСТРЕМИЗМА СРЕДИ МОЛОДОГО ПОКОЛЕНИЯ И ЕГО ПРОФИЛАКТИКЕ
Artamonova Viktoria Vladimirovna
Senior Lecturer, Sociology and Psychology Department, Baikal State University
GAMING PRACTICES IN SPREADING EXTREMISM AMONG YOUNG PEOPLE AND ITS PREVENTION
Аннотация:
Современный этап развития страны характеризуется ростом интереса общества к политике и религии. Наряду с этим отмечается увеличение количества преступлений на национально-религиозной почве. Сложившаяся ситуация влияет не только на степень доверия граждан к государственной власти, но и на общее чувство защищенности населения от возможных национальных, расовых конфликтов и террористических актов. Своевременное реагирование государственных структур на настроения в обществе и усилия, направленные на противодействие распространению проблем экстре-мизма и терроризма, позволяют обеспечить защиту прав и свобод граждан. В статье обсуждается распространение игровых практик экстремизма среди молодого поколения. Представлены данные об экстремистских настроениях в молодежной среде, проанализировано влияние геймифика-ции на ценностные ориентации молодежи. Структурированы интернет-ресурсы по распространению экстремистской идеологии: социальные сети, форумы, блоги; интернет-издания; официальные сайты экстремистских организаций. На основе полученных данных сформулированы выводы, которые могут быть использованы при разработке стратегии национальной безопасности России.
Ключевые слова:
геймификация, игровые практики, молодое поколение, профилактика экстремизма, информационные угрозы, экстремистская идеология, национальные конфликты, расовые конфликты, поколение Y, пропаганда экстремистской идеологии.
Summary:
The current stage of the country development is characterized by the growing public interest in politics and religion. Along with this, there has been an increase in the number of crimes on the ethnic and religious grounds. The current situation affects not only the degree of citizens' trust in public authorities but also their feeling of being safe from possible ethnic, racial conflicts and terrorist attacks. A prompt response of the government to public moods and efforts to counter the spread of extremism and terrorism make it possible to ensure the protection of citizens' rights and freedoms. The study discusses the spread of gaming extremist practices among the younger generation. The research presents the data on the extremist tendencies among young people and analyzes the impact of gamification on the youth values. It structures the Internet resources that spread the extremist ideology: social networks, forums, blogs; online media; official websites of extremist organizations. Based on the research findings, the author draws conclusions that can be used to develop the national security strategy for Russia.
Keywords:
gamification, gaming practices, younger generation, prevention of extremism, information threats, extremist ideology, ethnic conflicts, racial conflicts, generation Y, propaganda of extremist ideology.
Постановка задачи. Интернет - один из важнейших факторов трансформации образа жизни современной молодежи, которая является наиболее активным его пользователем. Под воздействием интернета происходят изменения в ценностных ориентациях молодежи, формируются новые по своему содержанию и качеству виды досуговой деятельности, новые практики и стратегии поведения, способные влиять на общество. Одной из таких стратегий является геймификация - применение игровых механик к неигровым процессам с целью управления мотивацией и поведением групп людей в современном мире.
Геймификация способна изменять поведение людей в зависимости от поставленных целей. Наиболее подверженным такому влиянию оказывается поколение Y (поколение людей, родившихся после 1981 г.). По словам Е. Стародубцевой, «мотивация этих людей с раннего детства строилась не на долге и правильности, а на увлеченности и вознаграждении» (портал Rusbase). Поколение Y хорошо представляет, что такое уровни, прокачка, задания (квесты), награды, достижения.
Геймификация все больше укрепляет свои позиции во всех сферах деятельности общества (здравоохранение, образование, социальные проекты, личная активность, лояльность к товарам или услугам, обучение персонала и пр.). Тенденция расширения применения геймифика-ции в различных сферах жизни общества заставляет находить новые способы включения игровых механик в бизнес-процессы, преодолевать коммуникационные барьеры при взаимодействии с молодым поколением.
Однако геймификация как новый тренд современного информационного мира получила распространение не только в экономической и социальной сферах. К сожалению, отдельные ее методы все чаще активно используют в своей практике общественные, религиозные объединения, некоммерческие организации, распространяющие материалы экстремистского содержания в интернете.
Информационные угрозы экстремизма. В ст. 19 Всеобщей декларации прав человека [1] отмечается: «Каждый человек имеет право на свободу убеждений и на свободное выражение их; это право включает свободу беспрепятственно придерживаться своих убеждений и свободу искать, получать и распространять информацию и идеи любыми средствами и независимо от государственных границ».
Вместе с тем в 2011 г. Организация Объединенных Наций (ООН) «признала право на доступ в интернет одним из неотъемлемых прав человека» [2]. Данную новость озвучил в своем докладе эксперт ООН по вопросам защиты права на свободу убеждений и их свободное выражение Ф.У. Ла Ру (F.W. La Rue). После событий 3 июня, когда в Сирии был отключен доступ в интернет, Генеральной Ассамблеей ООН было принято решение сделать распространение информации в интернете достаточно свободным, за исключением случаев нарушения чьих-либо прав.
Экстремистские организации и объединения еще в 1990-е гг. осознали ценность интернет-ресурсов, распространяя через веб-сайты видеосюжеты пропагандистского содержания [3, с. 434]. Так, основную информацию о проявлениях экстремизма молодежь чаще всего получает через веб-ресурсы (75,1 %). Интернет как источник получения информации особенно актуален для лиц в возрасте 18-24 лет (69,8 %) [4]. Это обусловлено тем, что именно у этой возрастной группы, относящейся к поколению Y, процесс социализации прошел в условиях становления информационного общества, распространения интернета и появления социальных сетей.
Таким образом, большое количество информации в интернете значительно усложняет контроль за всеми ресурсами сети, что делает интернет удобной платформой для распространения идеологии экстремистской направленности среди пользователей (через социальные сети, чаты, блоги, форумы) [5]. Политика государственных структур, направленная на противодействие распространению проблем экстремизма, не в полной мере обеспечивает чувство защищенности у молодежи.
Часто экстремистские действия являются отчаянным и неуправляемым ответом на негативный жизненный опыт. Анализируя сущность и особенности проявления экстремизма, Ю.А. Зубок и В.И. Чупров отмечают, что «внешние противоречия возникают на стыке взаимодействия молодежи с обществом, при столкновении с его жесткими требованиями: дискриминация молодежи по возрастному признаку, нарушение прав в образовании, труде, профессиональной деятельности, ущемление прав личности. Молодые люди не могут реагировать на подобное отношение к ним, нередко выбирая экстремальные формы защиты» [6, с. 37]. С развитием информационных технологий, мобильных приложений и социальных сетей влияние на ценностные ориентации молодого поколения становится более доступным.
Одним из первых инцидентов, произошедших с использованием современных средств связи, стали массовые волнения в Лондоне 6-11 августа 2011 г. Причиной послужила попытка ареста за торговлю наркотиками, ношение оружия и членство в организованной преступной группировке подозреваемого афроамериканца Марка Даггана (Mark Duggan), который при задержании был убит одним из полицейских. Стрельба была открыта в дневное время на глазах многих очевидцев в одном из районов Лондона - Тоттенеме (Tottenham), где проживает большое число представителей национальных меньшинств.
Уличные банды, воспользовавшись преимуществами Blackberry messenger, скоординировали действия молодых людей, открыто выступив против действий полиции в отношении афро-американцев и устроив беспорядки, погромы, поджоги, грабежи, нападения и убийства в разных районах Лондона.
Данные события, произошедшие в Великобритании и получившие название The BlackBerry Riot («Бунт BlackBerry»), лишний раз подтверждают, что современные технологии и социальные сети могут не только создавать и распространять информацию, «преодолевать государственные границы и устранять барьеры на пути свободного потока информации» [7, p. 123], но и оказывать воздействие через «эффект толпы» на формирование мнения молодых людей и организацию насильственной и экстремистской деятельности, которая в данном конкретном примере охарактеризовалась грабежами, поджогами и рядом убийств.
Не менее опасными каналами коммуникаций, помимо мобильных приложений для мгновенного обмена сообщениями, являются социальные сети. Среди политологов и социологов существует официальный термин, характеризующий революции и протесты, координация которых происходит через этот вид связи, - «Twitter-революция». Термин впервые был употреблен американским исследователем Е.М. Морозовым [8] и охарактеризовал протесты и беспорядки со
стороны молодежи в Республике Молдова против нечестных выборов в парламент в 2009 г. Социальная сеть Twitter стала основным средством распространения новостей о происходящих событиях. В результате митингов «Партия коммунистов» республики потеряла власть.
К «Twitter-революциям» многие исследователи относят такие известные протестные акции и революционные события, как массовые беспорядки в Кишиневе (2009); акции протеста в Иране (2009); революцию в Тунисе (2010-2011); революцию в Египте (2011); протесты на юго-востоке Украины (2014) и пр. Так, авторы доклада UNESCO [9], посвященного экстремизму в социальных медиа, отмечают, что преобладающими социально-коммуникационными инструментами в мире являются Facebook, Twitter и Skype.
Данные примеры показывают, что современные средства коммуникаций в интернете являются реальными инструментами, которые протестующие активно используют в достижении социальных, политических и иных целей и организации беспорядков в различных государствах. К сожалению, экстремистские движения и группы в настоящее время широко представлены в интернете и используют это киберпространство по-разному. В частности, в недавних исследованиях К. Лефевр (C. Lefevre) [10] рассматривается, как индонезийские экстремисты используют социальные сети Facebook, Twitter и приложения для мобильных телефонов WhatsApp и Telegram для привлечения молодых людей и их последующего обучения.
Таким образом, проблема распространения и размещения экстремистских материалов в Cети возрастает с каждым днем, так как появляются новые способы воздействия на сознание молодежи и разрабатываются новые сервисы, направленные на беспрепятственное общение между людьми во всем мире. Особую тревогу вызывает использование экстремистскими группами интерактивных возможностей социальных сетей [11, с. 102], которые позволяют пользователям не только загружать материалы, пропагандирующие экстремистскую идеологию, но и обмениваться ими с другими пользователями в режиме реального времени.
Информационно-манипулятивные технологии, используемые экстремистскими организациями. В связи с преобладанием в интернет-пространстве молодого поколения перед многими веб-сайтами встает задача создания интересного контента для молодежи с целью привлечения целевой аудитории и побуждения посетителей ресурса к совершению определенных действий. Эти тенденции также учитывают и экстремистские организации. Можно заметить, что экстремистский контент все чаще дополняется геймифицированной составляющей: счетчики репутации, виртуальные значки, баллы, призы и звания c целью удержания внимания молодых посетителей сайта и повышения уровня их вовлеченности. Организованная в таком виде геймификация мотивирует пользователей проводить больше времени на интернет-ресурсах экстремистских организаций.
Однако сами по себе методы геймификации не способствуют формированию экстремистских взглядов у молодежи. «Если человек не заинтересован в экстремизме, то никакие значки и награды не заставят его изменить свою точку зрения» [12]. В огромном объеме получаемой в интернете информации не всегда можно выделить причинно-следственные связи. Большая ее часть воспринимается молодежью как «информационный шум», и полезность полученных данных уменьшается прямо пропорционально количеству этих данных.
Интернет-ресурсы по распространению экстремистской идеологии. На основании анализа данных проведенного исследования нами были выделены три основных ресурса для пропаганды экстремистской идеологии: социальные сети, форумы, блоги; интернет-издания; официальные сайты экстремистских организаций.
1. Социальные сети, форумы, блоги. Экстремисты в полной мере используют Facebook, Twitter и иные социальные сети для распространения своих взглядов и идей. Так, представители наиболее крупных экстремистских сайтов зарегистрированы на онлайн-площадках, где они могут общаться с единомышленниками. Один из таких веб-сайтов ввел «измеритель уровня радикальных настроений» в обществе с тем, чтобы оценить, насколько каждый новый зарегистрированный пользователь форума является приверженцем идей экстремизма. Пользователи другого сайта поощряют друг друга виртуальными «драгоценностями», которые функционально аналогичны значкам, заработанным репутацией и участием, на карточках их профилей.
Как и любые другие веб-сайты, даже наиболее экстремистские форумы не могут избежать появления «интернет-троллей», которые порождают дискуссии и споры. Выходом часто является блокировка таких пользователей, так как их миролюбивые взгляды слишком резко контрастируют с жестокими взглядами экстремистов. Поэтому, как и любой пользователь социальных сетей, экстремистские организации заботятся о конфиденциальности в интернете.
2. Интернет-издания. На сегодняшний день в российском обществе профилактические преимущества средств массовой информации практически не используются: напротив, во многих изданиях агрессия, насилие и экстремизм не столько осуждаются, сколько культивируются [13, с. 318].
Одним из примеров формирования благосклонного отношения к экстремизму посредством использования элементов геймификации является англоязычный онлайн-журнал Inspire («Вдохновение»). По данным некоторых источников, журнал выпускается при поддержке «Аль-Каиды»
(Al Qaeda) - одной из самых крупных ультрарадикальных международных организаций (деятельность организации запрещена на территории РФ). Издание выпускается с 2010 г., и в нем можно встретить такие статьи экстремистского содержания, как, например: «Как сделать бомбу на кухне вашей мамы?». Чтобы привлечь внимание к статье, авторы сопроводили ее игровыми элементами, задавая читателям наводящие вопросы, например: «Сколько ингредиентов вы можете найти на вашей кухне?»
3. Официальные сайты. На своих интернет-ресурсах «Аль-Каида» также использует гей-мифицированные стратегии, особенно для привлечения (вербовки) новых пользователей [14]. Определенными показателями статуса и признания в экстремистской общине являются начисленные пользователю баллы (благодарности за пост). Чем больше баллов зарабатывает пользователь, тем большее вознаграждение он получает: от изменения цвета имени до возможности использовать «аватар». В конечном счете победная награда - это доступ к защищенному паролем сайту «Аль-Каиды», где уже обсуждаются более серьезные экстремистские идеи, реализуемые в реальном мире. Но для достижения этой цели пользователь должен доказать, что является приверженцем движения, и получить рекомендацию от уважаемого члена общества [15].
В повседневной жизни методы геймификации используются для повышения уровня вовлеченности сотрудников или клиентов в законной предпринимательской деятельности. Поэтому в этом отношении интересны сведения эксперта по вопросам терроризма и экстремизма А. Левайн (магистр в области ближневосточных исследований Harvard University; специализируется на изучении экстремизма и его проявлений в онлайн-пространстве, идеологии терроризма, международных террористических и экстремистских движениях), которая отмечает, что террористические и экстремистские организации внедряют в свою деятельность такие же тактики и техники геймификации, которые используют крупные торговые марки (Nike, Starbucks, «М.Видео», T-Systems, Tele2, МТС, «Одноклассники», Росатом, Yota и пр.) в рекламных акциях и программах лояльности для клиентов.
Игровые практики по профилактике экстремизма среди молодого поколения. Экстремистские организации успешно адаптировали современные виды игровых практик для развития экстремистской идеологии через коммуникационную сеть Интернет. Однако методы геймификации можно направить также и на профилактику экстремизма.
Например, использование геймификации и игровых механик с 2007 г. является одним из приоритетных направлений деятельности компании PlayGen (одна из ведущих в Великобритании организаций по созданию социальных игр и применению геймификации; каждый продукт направлен на решение серьезных проблем общества для получения игроками значимого опыта и преобразования его с реальными мировыми темами). Одним из наиболее популярных геймифицированных приложений для профилактики экстремистских настроений в обществе является игра Choices and Voices («Выбор и голоса»). Созданное как ролевая игра, приложение используется в школах, колледжах и университетах с целью сокращения масштабов экстремизма в молодежной среде.
Choices and Voices - это интерактивная симуляция, побуждающая молодых людей исследовать и обсуждать основополагающие проблемы и неблагоприятные факторы, которые могут привести к развитию экстремистских настроений в обществе (например, социальная изоляция и эксклюзия, давление со стороны сверстников, насилие и пр.). В различных сценариях игрок сталкивается с рядом моральных дилемм, решая которые он формирует собственные результаты. Несмотря на то что моральные дилеммы одинаковы для всех, набор решений каждого игрока в отдельности существенно может изменить результат игры. Структурированные групповые обсуждения в каждом из сценариев игры показывают важность принимаемых решений в реальных жизненных условиях и последствия от принятых решений.
В конкретных случаях, когда речь идет о сценариях, учащимся предлагаются более сложные ситуации, для решения которых необходимо работать в группе. Такие групповые обсуждения помогают учащимся извлекать позитивные идеи, размышлять над каждой проблемой сообща, развивать социальные навыки и сочувствие, работать совместно в интересах безопасного и сплоченного общества.
До внедрения игры в учебный процесс она была апробирована, было доказано ее полное соответствие учебной программе. Идея симуляции была поддержана полицией, рядом региональных школ и научными работниками. На данный момент игра используется более чем в 600 школах в Бирмингеме и в других городах юго-западной части Великобритании. В игре задействовано в среднем 60 тыс. пользователей и 100 сотрудников школ. Успех игры способствовал разработке версии для начальной школы.
Необходимость использования игровых практик для профилактики экстремистских настроений среди молодого поколения поддерживают также организации международного уровня. Так, в 2005 г. в рамках Всемирной продовольственной программы ООН (United Nations World Food Programme) была разработана игра под названием «Продовольственная сила» (Food Force). Действие игры происходит на вымышленном острове в Индийском океане, жители которого страдают от засухи и гражданской войны. Игрок выступает новобранцем, который, присоединившись
к команде экспертов ООН, должен преодолеть ряд миссий по распределению продуктов питания в пострадавшей от голода стране. Таким образом молодые люди узнают о голоде в реальном мире и работе ООН по его предотвращению.
Специфику образовательной игры определяют результаты, которые будут достигнуты в ходе ее реализации. К ним можно отнести познание окружающего мира и основ взаимоотношений между членами коллектива, формирование и развитие самоконтроля, критического мышления, приобретение навыков планирования поведения, формирование социальной самоидентификации и пр. Исходя из цели игры, также могут быть достигнуты специфические результаты, такие как усвоение единых для всех людей социально-культурных ценностей, решение конкретной задачи, проблемы или конфликта.
В России все возрастающее число исследователей считают, что для стимулирования познавательного интереса обучающихся важно применение компьютерных игр. В образовательной среде среднего и высшего образования геймификация становится все более популярным инструментом мотивации и вовлечения обучающихся. Это обусловлено тем, что только к 2010 г. был накоплен позитивный опыт реализации проектов по геймификации, а методики, связанные с внедрением игровых элементов, привлекли внимание ученых и практиков к изучению данного инструмента.
Однако при профилактике экстремизма государство и образовательные учреждения чаще используют традиционные игровые тренинги и учебно-развлекательные игры, направленные на формирование высокого уровня патриотического сознания. Как нам кажется, недостаточное развитие игровых практик в России является следствием отсутствующих апробированных алгоритмов и схем реализации геймифицированных проектов под различные цели профилактической работы.
Заключение. Проведенное исследование позволило сделать следующие выводы.
1. Современное общество характеризуется повышением роли информатизации, где особое место отведено информационно-коммуникационным технологиям, проникающим во все сферы социальной жизни. Молодежь как группа риска становится наиболее уязвимой: игры, электронные устройства, интернет, социальные сети уже стали неотъемлемой частью жизни и досуга молодого поколения.
2. Несмотря на то что право на доступ в интернет является одним из неотъемлемых прав человека, не вся информация, предоставляемая через этот вид коммуникаций, безопасна. Как показал анализ научных исследований, законы в области ограничения доступа к информации, обрабатываемой с нарушением законодательства, являются недостаточными из-за невозможности контроля за всеми ресурсами. В связи с этим интернет становится удобной платформой для распространения экстремистских и террористических материалов. Автором были выделены и классифицированы основные виды интернет-ресурсов по распространению экстремистской идеологии.
3. Для профилактики распространения экстремизма среди молодого поколения в рамках статьи был предложен современный метод с использованием игровых практик - геймификация. Проанализированные зарубежные примеры использования игровых практик в превентивных целях характеризуют геймификацию как эффективный способ формирования у молодежи рефлексивной жизненной позиции, выражающейся в позитивном отношении к себе и окружающим, адекватной самооценке, усилении гражданской активности, ориентации на гуманистические ценности, готовности к саморазвитию и самовоспитанию.
Однако распространение игровых практик невозможно без поддержки со стороны государства, образовательных учреждений и научного сообщества. Для повышения информированности образовательных учреждений необходима разработка методических рекомендаций на основе современных исследований в сфере применения игровых практик по профилактике экстремистских настроений в молодежной среде. В связи с этим психология, социология и другие социальные науки могут предложить набор инструментов для профилактики экстремизма с помощью фундаментального научного анализа и реализации прикладных исследований с использованием социально-психологических методов.
Таким образом, актуальными направлениями эмпирических исследований, способствующих более полному пониманию применения геймификации в профилактике экстремистских настроений, являются: изучение направлений и способов использования игры в превентивных целях; исследование структурных изменений, связанных с внедрением геймификации; выявление причинно-следственных связей, способствующих распространению экстремистских материалов в интернете.
Ссылки:
1. Всеобщая декларация прав человека [Электронный ресурс] : принята Генеральной Ассамблеей ООН 10 дек. 1948 г.
Доступ из справ.-правовой системы «КонсультантПлюс».
2. La Rue F.W. Report of the Special Rapporteur on the Promotion and Protection of the Right to Freedom of Opinion and Expression [Электронный ресурс]. 2011. URL: http://www2.ohchr.org/english/bodies/hrcouncil/docs/17ses-sion/A.HRC.17.27_en.pdf (дата обращения: 11.05.2018).
3. Neumann P.R. Options and Strategies for Countering Online Radicalization in the United States // Studies in Conflict & Terrorism. 2013. Vol. 36, iss. 6. P. 431-459. https://doi.org/10.1080/1057610x.2013.784568.
4. Зимина Е.В. Профилактика экстремистских настроений среди молодежи как фактор социально-экономического развития региона // Baikal Research Journal. 2016. Т. 7, № 6. https://doi.org/10.17150/2411 -6262.2016.7(6).15.
5. Андриянов В.Н. Конституционно-правовые основы противодействия экстремизму // Всероссийский криминологический журнал. 2017. Т. 11, № 1. С. 32-42 ; Гаврилов К.А., Толмач А.Д. Кто виноват: контент-анализ блогов о теракте в «Домодедово» // Социс. 2014. № 12. С. 81-88 ; Михайлов М.А., Кряжев В.С. Единообразие в определении круга преступлений террористической и экстремистской направленности - необходимая предпосылка эффективности методики их расследования // Всероссийский криминологический журнал. 2016. Т. 10, № 4. С. 770-778.
6. Зубок Ю.А., Чупров В.И. Молодежный экстремизм. Сущность и особенности проявления // Социологические исследования. 2008. № 5. С. 37-47.
7. Dempsey J.X. Protecting the Human Right of Expression on the Global Internet: US and European Approaches // Interights Bulletin. 1998. Vol. 12, no. 3. P. 123-125. https://doi.org/10.1163/2210-7975_HRD-1763-0062.
8. Морозов Е.М. Интернет как иллюзия. Обратная сторона сети. М., 2014. 528 с.
9. Alava S., Frau-Meigs D., Hassan G. Youth and Violent Extremism on Social Media: Mapping the Research [Электронный ресурс] / UNESCO. Paris, 2017. 167 p. URL: http://unesdoc.unesco.org/images/0026/002603/260382e.pdf (дата обращения: 27.09.2018).
10. Lefevre C. Extremist Social Media Use in Indonesia (Research Analysis) [Электронный ресурс] // Global Public Policy Watch. 2014. June 24. URL: https://globalpublicpolicywatch.org/2014/06/24/extremist-social-media-use-in-indonesia-re-search-analysis/ (дата обращения: 27.08.2018).
11. Лапунова Ю.А., Голяндин Н.П. Распространение идеологии экстремизма и терроризма в киберпространстве: проблемы и пути их решения // Труды Академии управления МВД России. 2017. № 3 (43). С. 100-104.
12. Levine A. The Dangerous Side of Online Gaming [Электронный ресурс] // WEBehavior. 2011. Aug. 17. URL: http://alixlevine.blogspot.ru/2011/08/dangerous-side-of-online-gaming.html (дата обращения: 08.05.2018).
13. Некрасова Е.В. Некоторые вопросы профилактики экстремизма в молодежной среде // Вестник Санкт-Петербургского университета. Серия 12: Социология. 2012. № 2. С. 314-321.
14. Reid E.F. Crowdsourcing and Gamification Techniques in Inspire (AQAP Online Magazine) // 2013 IEEE International Conference on Intelligence and Security Informatics. https://doi.org/10.1109/isi.2013.6578822.
15. Brachman J., Levine A. The World of Holy Warcraft: How Al Qaeda is Using Online Game Theory to Recruit the Masses [Электронный ресурс] // Foreign Policy. 2011. Apr. 13. URL: http://www.foreignpolicy.com/arti-cles/2011 /04/13/the_world_of_holy_warcraft (дата обращения: 16.08.2018).
References:
Alava, S, Frau-Meigs, D & Hassan, G 2017, Youth and Violent Extremism on Social Media: Mapping the Research, UNESCO, 167 p., viewed 27 September 2018, <http://unesdoc.unesco.org/images/0026/002603/260382e.pdf>.
Andriyanov, VN 2017, 'The Constitutional and Legal Basis of Countering Extremism', Vserossiyskiy kriminologicheskiy zhur-nal, vol. 11, no. 1, pp. 32-42, (in Russian).
Brachman, J & Levine, A 2011, ' The World of Holy Warcraft: How Al Qaeda is Using Online Game Theory to Recruit the Masses', Foreign Policy, April 13, viewed 16 August 2018, <http://www.foreignpolicy.com/arti-cles/2011 /04/13/the_world_of_holy_warcraft>.
Dempsey, JX 1998, 'Protecting the Human Right of Expression on the Global Internet: US and European Approaches', Interights Bulletin, vol. 12, no. 3, pp. 123-125. https://doi.org/10.1163/2210-7975_HRD-1763-0062.
Gavrilov, KA & Tolmach, AD 2014, 'Who Is to Blame: the Content Analysis of Blog Posts about Domodedovo Terrorist Attack', Sotsis, no. 12, pp. 81-88, (in Russian).
Lapunova, YuA & Golyandin, NP 2017, 'Spreading the Ideology of Extremism and Terrorism in Cyberspace: Problems and Ways to Solve Them', Trudy Akademii upravleniya MVD Rossii, no. 3 (43), pp. 100-104, (in Russian).
La Rue, FW 2011, Report of the Special Rapporteur on the Promotion and Protection of the Right to Freedom of Opinion and Expression, viewed 11 May 2018, <http://www2.ohchr.org/english/bodies/hrcouncil/docs/17session/A.HRC.17.27_en.pdf>.
Lefevre, C 2014, 'Extremist Social Media Use in Indonesia (Research Analysis)', Global Public Policy Watch, June 24, viewed 27 August 2018, <https://globalpublicpolicywatch.org/2014/06/24/extremist-social-media-use-in-indonesia-research-analysis/>.
Levine, A 2011, 'The Dangerous Side of Online Gaming', WEBehavior, August 17, viewed 08 May 2018, <http://alixlevine.blogspot.ru/2011/08/dangerous-side-of-online-gaming.html>.
Mikhailov, MA & Kryazhev, VS 2016, 'The Uniformity of Defining the Crimes of Terrorism and Extremism as a Prerequisite for the Effective Methodology of Their Investigation', Vserossiyskiy kriminologicheskiy zhurnal, vol. 10, no. 4, pp. 770-778, (in Russian). Morozov, EM 2014, The Internet as an Illusion. The Reverse Side of the Network, Moscow, 528 p., (in Russian). Nekrasova, EV 2012, 'Several Issues of the Prevention of Extremism in the Youth Environment', Vestnik Sankt-Peterburg-skogo universiteta. Seriya 12: Sotsiologiya, no. 2, pp. 314-321, (in Russian).
Neumann, PR 2013, 'Options and Strategies for Countering Online Radicalization in the United States', Studies in Conflict & Terrorism, vol. 36, iss. 6, pp. 431-459. https://doi.org/10.1080/1057610x.2013.784568.
Reid, EF 2013, 'Crowdsourcing and Gamification Techniques in Inspire (AQAP Online Magazine)', 2013 IEEE International Conference on Intelligence and Security Informatics. https://doi.org/10.1109/isi.2013.6578822.
Zimina, EV 2016, 'Prevention of Extremist Moods among Young People as a Factor in the Social and Economic Development of the Region', Baikal Research Journal, vol. 7, no. 6. https://doi.org/10.17150/2411-6262.2016.7(6).15.
Zubok, YuA & Chuprov, VI 2008, 'Youth Extremism. Essence and Features of Manifestation', Sotsiologicheskiye issledo-vaniya, no. 5, pp. 37-47, (in Russian).
