CC BY
114Особенности мониторинга противоправного контента в интернете в рамках киберволонтерской деятельности
Венцель Сергей Владимирович - аналитик Национального центра информационного противодействия терроризму и экстремизму в образовательной среде и сети Интернет, г. Ростов-на-Дону
Проблема проникновения и распространения в интернете идей деструктивных течений по-прежнему сохраняет свою актуальность. Эффективное противостояние таким угрозам, как пропаганда идеологии терроризма, радикальных нарративов экстремистских течений, влияние так называемых «групп смерти» и т. д. требует более активного вовлечения самих пользователей интернета в общую систему информационного противодействия и профилактики. Такая потребность стала катализатором возникновения киберволонтерс-тва как разновидности волонтерской деятельности, осуществляемой дистанционно с помощью интернет-технологий. В сферу противодействия идеологии терроризма и экстремизма, а также различным информационным угрозам и другим негативным явлениям в интернете киберволон-терство проникло значительно
позже появления самого феномена киберволонтерства. Именно этим можно объяснить, что само понятие до сих пор не нашло закрепления в современном российском законодательстве федерального уровня. Поэтому киберволонтеры в своей деятельности опираются в первую очередь на Федеральный закон от 11.08.1995 № 135-Ф3 «О благотворительной деятельности и добровольчестве (волонтерстве)», а также на ряд других нормативно-правовых актов.
Киберволонтерские организации концентрируются на выполнении следующих задач: мониторинг и выявление противоправного контента в интернете; создание и распространение позитивного профилактического контента, организация и проведение адресных профилактических мероприятий среди целевых групп, наиболее подверженных влиянию деструк-
тивных течений. В данной научно-исследовательской работе следует сосредоточиться на анализе поиска и выявления противоправного контента как информации, содержание которой нарушает действующее законодательство Российской Федерации. Качественный мониторинг противоправного контента предполагает наличие у киберволон-тера определенного набора знаний и умений, включая знание действующего российского законодательства и владение инструментами и механизмами поиска и выявления противоправного контента.
При мониторинге противоправного контента киберволон-теру следует опираться на трактовку деструктивных явлений в актуальных нормативно-правовых актах. Опора на законодательную базу позволит избежать возможных неточностей и неопределенностей смыслов (особенно это касается экстремистского и террористического контента), свойственных различных гуманитарным направлениям, включая философию и политологию. В своей работе киберволонтер сталкивается с такими формами противоправного контента, как экстремистский, террористический, наркотический и суицидальный. Следует проанализировать каждый из них.
Понимание сущности экстремистского контента основывается на той информации, которая содержится в Федеральном законе от 25.07.2002 г. № 114-ФЗ «О противодействии экстремистской деятельности» и Стратегии противодействия экстремизму в
Российской Федерации до 2025 г. (утв. Президентом РФ 28.11.2014 № Пр-2753), а также подробно прописанных в них определений таким понятиям, как «экстремизм / экстремистская деятельность», «экстремистская организация», «экстремистские материалы», «экстремистская идеология» и «экстремистские проявления».
Термин «экстремизм / экстремистская деятельность» имеет 13 характеристик: насильственное изменение основ конституционного строя и (или) нарушение территориальной целостности РФ; публичное оправдание терроризма и иная террористическая деятельность; возбуждение социальной, расовой, национальной или религиозной розни; нарушение прав, свобод и законных интересов человека и гражданина в зависимости от его социальной, расовой, национальной, религиозной и языковой принадлежности или отношения к религии и т. д.
Экстремистской организацией является то общественное или религиозное объединение, в отношении которого судом принято решение о ликвидации или запрете в связи с осуществлением экстремистской деятельности.
Экстремистскими признаются те материалы, которые призывают к осуществлению экстремистской деятельности либо обосновывающие или оправдывающие необходимость осуществления такой деятельности. Здесь следует использовать Федеральный список экстремистских материалов,составляемый Министерством юстиции
О министерстве Новости Деятельность Документы Правовая информация Контакты Обращения граждан
# Материал Дата
1 Музыкальный альбом 'Музыка белых', автор - Музыкальная группа Order, решение вынесено Первомайским районным судом г. Омска от 23.11.2006;
2 Книга 'Книга единобожия", автор - Мухаммад ибн Сулейман ат-Тамими, источник публикации - Некоммерческое партнерство "Издательский дом "Бадр", решение вынесено Савеловским районным судом г. Москвы от 02.04.2004;
3 Письма Рады земли Кубанской духовно-родовой державы Русь, авторы - Н.М. Лозинский, В.М. Герасев. решение вынесено Первомайским районным судом г. Краснодара от 20.03.2006;
4 Печатные материалы в газете 'Для русских людей' N 1 (1), июнь 2002 г.; N 2 (2), август 2002 г.; N 3. октябрь 2002 г.; N 4. ноябрь 2002 г.; N 5. декабрь 2002 г.; 2003 г. N 6,7. решение вынесено Тихвинским городским судом Ленинградской области от 25.05.2004;
5 Кинофильм 'Вечный жид", решение вынесено Тихвинским городским судом Ленинградской области от 25.05.2004;
6 Брошюра 'Мать-земля: чудо-чудное, диво-дивное. Введение в геобиологию', автор - A.A. Добровольский, источник публикации -КОГУП "Котельничская типография", решение вынесено Котельничским районным судом Кировской области от 09.03.2005;
7 Брошюра 'Язычество как волшебство', автор - A.A. Добровольский, источник публикаиии - КОГУП "Котельничская типография", решение вынесено Котельничским районным судом Кировской области от 09.03.2005;
Рисунок 1. Федеральный список экстремистских материалов
Российской Федерации на основе судебных решений о признании материалов противоречащими закон [3].
В Стратегии экстремистская идеология определяется как «совокупность взглядов и идей, представляющих насильственные и иные противоправные действия как основное средство разрешения конфликтов», а экстремистские проявления — как особого рода противоправные действия [6].
Экстремистский контент в форме публикаций, репостов и комментариев в социальных будет обладать следующими признаками:
— содержание публичного оправдания и поддержки деятельности как террористических и экстремистских организаций, так и отдельных личностей, ответственные за террористические и экстремистские действия;
— наличие призывов к социальной, расовой, национальной
или религиозной розни, совершению насилия на основании таких признаков;
— пропаганда идей исключительности человека или определенной социальной группы на основании определенных признаков (национальный, религиозный, социальный, языковой или расовый);
— публичная демонстрация нацистской символики, атрибутики экстремистских сообществ и организаций.
Ключевыми законодательными актами для понимания сущности террористического контента является Федеральный закон от 06.03.2006 г. № 35-Ф3 «О противодействии терроризму» и Концепция противодействия терроризму в Российской Федерации (утверждена Президентом РФ 5.10.2009 г.). Согласно упомянутому закону, терроризм представляет собой «идеологию насилия и практику воздействия на принятие решений органами
государственной власти, органами местного самоуправления или международными организациями, связанными с устрашением насилия и иными формами противоправных насильственных действий» [4]. Обозначенная Концепция подробно раскрывает тенденции и факторы развития терроризма. Важным для понимания явления термином является «террористическая деятельность», содержащая шесть характеристик. Они кор-релируются с типами террористического контента в интернете, а именно:
— оправдание и пропаганда террористической деятельности;
— публичные призывы к осуществлению террористической деятельности;
— финансирование терроризма путем организации сбора средств, своеобразных «пожертвований»;
— вербовка и вовлечение в террористическую деятельность.
Террористический контент в интернете обладает следующими особенностями:
— распространение символики террористических организаций. Наиболее «популярной» среди адептов террористических течений в интернете является символика (флаг и печать) ИГИЛ (террористическая организация, запрещена на территории РФ);
— публикация фотографий и положительной информации об известных террористах: от организатора терактов 22.07.2011 года в Осло Андерса Брейвика до экс-лидера международной исламистской террористической организации «Аль-Каида»;
— выдержки из священных религиозных книг с радикальной интерпретацией. Несмотря на то, что цитаты из Корана не могут попадать под противоправный контент, вольная интерпретация смыслов, к которой часто прибегают радикально настроенные пользователи, может нарушать действующее законодательство в части пропаганды идеологии терроризма и экстремистских идей;
— инструкции по изготовлению взрывчатых веществ и огнестрельного оружия из подручных материалов;
— методы ведения партизанской войны в различных условиях и т.д.
Понимание сущности наркотического контента обеспечивается за счет изучения Федерального закона от 08.01.1998 г. № З-ФЗ «О наркотических средствах и психотропных веществах» и Стратегия государственной антинаркотической политики Российской Федерации на период до 2030 года (утверждена Указом № 733 Президента РФ от 23.11.2020 г.) Наркотиками, согласно законодательству, признаются «наркотические средства и психотропные вещества, включенные в Перечень наркотических средств, психотропных веществ и их прекурсоров, подлежащих контролю в Российской Федерации, аналоги наркотических средств и психотропных веществ, новые потенциально опасные психоактивные вещества, а также растения, содержащие наркотические средства или психотропные вещества либо их прекурсоры, включен-
ные в Перечень растений, содержащих наркотические средства или психотропные вещества либо их прекурсоры и подлежащих контролю в Российской Федерации» [2]. Наркотический контент в социальных сетях, на видеохостингах и в мессендже-рах имеет следующие формы: реклама наркотиков; пропаганда наркотического образа жизни; каналы продажи наркотиков; вербовка в так называемые закладчики и наркокурьеры.
И еще один вид противоправного контента, с которым регулярно сталкиваются киберволон-теры — суицидальный. В данном случае киберволонтеру следует знать о Федеральном законе от 29 декабря 2010 г. N 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию», причиняющей вред их здоровью и развитию». Такой контент, распространяемый преимущественно в тематических сообществах в социальных сетях, обладает следующими опознавательными признаками: описание способов самоубийства; шок-контент (публикации порезов, сцен смерти и т. д.), героизация совершивших суицид подростков, побуждения к совершению самоубийства.
Процедура мониторинга противоправного контента в интернете имеет одну важную особенность: к данной деятельности категорически нельзя привлекать несовершеннолетних, так как это нарушение законодательства. В частности 436-ФЗ, прописывающий виды информации, причиняющие вред здоровью и развитию детей: от по-
буждающей детей к совершению действий, представляющих угрозу их жизни и жизни окружающих до обосновывающей или оправдывающей жестокость и насилие к отношении людей и целых социальных групп [1]. Также стоит отметить нежелательность привлечения и взрослых к киберволонтерской деятельности в том случае, если они не прошли специальное обучение и не обладают психологической устойчивостью. Поскольку контент, выявляемый киберволонтерами, может иметь крайне негативные моменты, способные разрушить психику человека.
Помимо знания законодательных основ по противодействию противоправному контенту, ки-берволонтер должен обладать навыками поиска информации. Такой поиск осуществляется либо в ручном режиме с использованием специального перечня ключевых слов, либо с помощью специальных автоматизированных поисковых систем, собирающих сведения также на основе заданных слов или выражений. Киберволонтеру следует использовать оба метода поиска в силу их взаимодополняемости и нивелирования недостатков каждого метода по отдельности при единовременном использовании. Автоматизированная поисковая система создает и предоставляет киберволонтеру условное поле, обнаружить противоправный контент, в котором можно лишь с помощью ручного поиска и детализированной работы со смыслами. Именно работа с смысловыми единицами позволяет киберволонтеру определить
для себя, действительно ли обнаружен контент, имеющий признаки противоправного.
Заключительным аспектом мониторинга является систематизация и передача найденного контента в правоохранительные органы для последующего реагирования. Если киберволонтер действует в рамках определенной киберволонтерской организации, то проблема правильно передать обнаруженный материал для него не является актуальной. Поскольку при создании киберволонтерской организации ее руководство должно наладить сотрудничество с правоохранительными органами и всеми заинтересованными сторонами. Позитивным примером является история создания Регионального общественного движения Ростовской области «Интернет без угроз», в Координационный совет вошли представители от [5]:
— Управления ФСБ России по Ростовской области;
— Главное Управление МВД России по Ростовской области;
— Следственное управление Следственного комитета России по Ростовской области;
— аппарат антитеррористической комиссии Ростовской области;
— Комитет по молодежной политике Ростовской области;
— Управления Роскомнадзора по Ростовской области;
— Министерство общего и профессионального образования Ростовской области;
— Национальный центр информационного противодействия терроризму и экстремизму в образовательной среде и сети Интернет.
Рисунок 2. Волонтеры наших проектов
Четко выстроенная структура партнерства позволяет оперативно передавать найденную информацию в правоохранительные органы для последующего реагирования. Однако в том случае, если киберволонтер действует самостоятельно, у него есть два способа передать обнаруженную информацию: либо напрямую в правоохранительные органы; либо через зарекомендовавшие себя киберволонтерские организации.
В первом случае киберволон-теру следует знать о том, какой противоправный контент в какой орган следует направлять. В Прокуратуру Российской Федерации следует направлять экстремистский контент, инструкции по изготовлению взрывчатых веществ, информацию о незаконном обороте оружия, суицидальный контент и т. д. В случае нахождения наркотического контента, пропаганды суицида, порнографии с участием несовершеннолетних, экстремистского контента и некоторых других видов незаконной информации следует обращаться в Главное Управле-
ние МВД Российской Федерации. Террористический контент следует отправлять в Управление ФСБ Российской Федерации. Важно отметить, что блокировкой противоправного контента занимается Роскомнадзор. Возможны два варианта блокировки: досудебная; и по решению суда. Досудебная блокировка осуществляется по требованию прокуратуры в следующих случаях: ресурсы с детской порнографией; пропаганда суицида; пропаганда наркотиков; ресурсы с призывами к экстремизму и массовым беспорядкам.
Во втором случае киберво-лонтеры могут передавать найденную информацию в имеющие хорошую репутацию киберво-лонтерские организации или специальные центры по сбору таких данных. Позитивной практикой является дифференцированный сбор сведений о противоправном контенте, практикуемый в НЦПТИ. Ссылки на противоправный контент может присылать как специально созданный на сайте сервис «Сообщить о противоправном контенте», так и через сообщества в социальной сети «ВКонтакте». Отдельным показательным моментом в деятельности НЦПТИ являются регулярно проводимые тематические онлайн-ак-ции по поиску противоправного контента. В период с января по декабрь 2020 года специалистами НЦПТИ совместно с представителями регионального общественного движения «Интернет без угроз» и киберволонтерами со всей России было проведено четыре акции по поиску нарко-
тического контента, фейковой информации о коронавирусной инфекции, террористического контента, а также информации, содержащей разжигание межнациональной и межрелигиозной вражды и ненависти. В общей сложности за время проведения онлайн-акций было найдено свыше 700 гиперссылок на противоправный контент. По итогам анализа специалистами НЦПТИ из присланных материалов отобрано 195 ссылок на материалы, пропагандирующие идеологию терроризма и экстремизма, 32 ссылки на фейковую информацию о коронавирусной инфекции и 25 — по незаконному распространению наркотических средств. Участниками онлайн-акций стали киберволонтеры из более чем 20 субъектов Российской Федерации, включая Ростовскую области, Краснодарский край, Москву, Мурманскую область, Челябинскую область, Республику Калмыкия, Оренбургскую область и др.
Таким образом, эффективный мониторинг противоправного контента, осуществляемый киберволонтерами как обязательный элемент деятельности, складывается из нескольких составляющих. Во-первых, расширение знаний действующего российского законодательства в области противодействия информационным угрозам. Во-вторых, совершенствование навыков поиска и выявления противоправного контента, в том числе работы со смыслами. И, в-третьих, установление постоянных каналов коммуникации с правоохранительными органами
•••**' Акция по поиску противоправного контента ВК
^цУ 6 ноя в 11:01
Итоги Акции по поиску противоправного контента
С 22 октября по 6 ноября 2020 года волонтёрами из Ростова-на-Дону, Ставропольского края, Новосибирска, Краснодарского края. Челябинской области, Москвы, Оренбургской области, Калмыкии и других регионов России было прислано более 180 ссылок.
По результатам проверки специалистами НЦПТИ 160 ссылок, содержащих противоправный контент, были переданы в правоохранительные органы для реагирования и блокировки.
Выражаем огромную благодарность всем участникам онлайн-акции!
#нцпти #противтерроризма #неттерроризму #япротивэкстремизма Яинтернетбезугроз #доброволецроссии »добровольцырф »волонтер «добровольцы #рунет
Статистика
ж ^^* онлайн-акции
ко Дню народного я
единства I щпти
ИН Проявление вражды и ненависти ШпОя по расовым, национальным, религиозным и социальным признакам
РЯЩ Демонстрация запрещенной символики экстремистских и террористических организаций
Материалы, находящиеся в «Федеральном списке экстремистских материалов» Министерства юстиции РФ
Рисунок 3. Результаты онлайн-акции по поиску противоправного контента
с целью передачи найденного материалов для блокировки.
Литература и ссылки
1. О защите детей от информации, причиняющей вред их здоровью и развитию: Федеральный закон от 29.12.2010 г. № 436-ФЗ (принят Государственной Думой 21.12.2010 г.; одобрен Советом Федерации 24.12.2010 г.) [Электронный ресурс]. URL: https:// rg.ru/2010/12/31/deti-inform-dok. html (дата обращения: 07.02.2021 г.)
2. О наркотических средствах и психотропных веществах: Федеральный закон от 08.01.1998 г.
№ З-ФЗ (принят Государственной Думой 10.12.1997 г.; одобрен Советом Федерации 24.12.1997 г.) [Электронный ресурс]. URL: http://www. consultant.ru/document/cons_ doc_LAW_17437/ (дата обращения: 07.02.2021 г.)
3. О противодействии экстремистской деятельности: Федеральный закон № 114-ФЗ (принят Государственной Думой 27.06.2002 г.; одобрен Советом Федерации 10.07.2002 г.) [Электронный ресурс]. URL: https:// rg.ru/2002/07/30/extremizm-dok. html (дата обращения: 07.02.2021 г.)
4. О противодействии терроризму: Федеральный закон от 06.03.2006 г. № 35-Ф3 (принят Государственной Думой 26.02.2006 г.; одобрен Советом Федерации 01.03.2006 г.) [Электронный ресурс]. URL: https://rg.ru/2006/03/10/ borba-terrorizm.html (дата обращения: 07.02.2021 г.)
5. Положение о региональном общественном движении «Интернет без угроз» (утвержден на заседании антитеррористической комиссии Ростовской области 21.12.2017 г.) [Электронный ресурс]. URL: https://ncpti.su/upload/ polozhenie-IWT.pdf (дата обращения: 07.02.2021 г.)
6. Указ Президента Российской Федерации от 29.05.2020 г. № 344 «Об утверждении Стратегии противодействия экстремизму в Российской Федерации до 2025 года». [Электронный ресурс]. URL: http://kremlin.ru/acts/ bank/45555 (дата обращения: 07.02.2021 г.).
